O senador Nelsinho Trad (PSD-MS) apresentou o Projeto de Lei n.º 4532/2024, que estabelece normas para aumentar a segurança no uso de sistemas de inteligência artificial interativa (SIAI) baseados em linguagem natural. O objetivo é proteger especialmente crianças e adolescentes contra riscos associados a essas plataformas tecnológicas, como incentivo à automutilação, suicídio e outras práticas prejudiciais.
Além do projeto 4532/2024, o senador Nelsinho Trad encaminhou uma emenda ao PL 2338/2023, que regulamenta o uso da inteligência artificial, e que deu origem à criação da Comissão Temporária de IA (CTIA). “Encaminhamos a proposta para análise do relator (senador Eduardo Gomes) já, pela importância e urgência em garantir que os sistemas de IA interativa sejam usados com segurança e responsabilidade no Brasil”, afirmou o senador.
Principais Pontos do PL 4532/2024:
- Informação e Transparência:
- Exige que os sistemas de inteligência artificial informem claramente aos usuários que as interações são geradas automaticamente.
- Estabelece alertas de que as respostas não substituem orientação de profissionais qualificados.
- Prevenção e Proteção:
- Obriga os provedores a implementarem filtros para prevenir conteúdos prejudiciais, como incitação ao suicídio, automutilação, cyberbullying e exploração sexual.
- Nos casos de risco, os sistemas devem encerrar as interações e recomendar ajuda profissional.
- Responsabilização dos Provedores:
- Prevê que os provedores de SIAI sejam responsabilizados por danos causados aos usuários, conforme o Código de Defesa do Consumidor.
- Periodicidade nas Revisões:
- Determina atualizações constantes dos filtros para acompanhar os avanços tecnológicos e identificar novos riscos.
Por que é urgente?
Dados recentes apontam que 1 em cada 3 usuários de internet é uma criança, e o Brasil ocupa a segunda posição global em tempo de tela. Sem regulamentação, jovens ficam expostos a riscos como exploração, assédio e até tragédias evitáveis.
“A regulamentação dos sistemas de IA interativa é urgente. Temos visto casos alarmantes em que essas tecnologias, quando mal reguladas, podem representar riscos graves à segurança de crianças e adolescentes”, ressaltou o senador Nelsinho Trad, referindo-se a denúncias recentes envolvendo interações problemáticas entre jovens e IAs.
“Um jovem de apenas 14 anos, após interagir com uma inteligência artificial, acabou tirando a própria vida. Esse caso foi denunciado pela mãe, que acessou as conversas do filho com a postagem virtual. Segundo ela, algumas mensagens eram sexualmente explícitas e o comportamento do robô era assustadoramente real. Essa questão das redes sociais precisa ter um freio, uma arrumação, porque senão vai descambar para uma criminalidade virtual que infelizmente está ocorrendo”.
