O governador da Califórnia, Gavin Newsom, sancionou nesta quinta-feira (10) um conjunto de 13 leis que visam modificar o funcionamento de assistentes de inteligência artificial e de redes sociais, com a justificativa de aumentar a proteção de crianças e adolescentes no ambiente digital.
Protocolos de crise e controles parentais
Uma das normas exige que serviços de IA — citando exemplos como ChatGPT, Gemini e Claude — implementem protocolos de crise capazes de identificar e responder quando usuários apresentarem indícios de que planejam cometer suicídio. A legislação também obriga essas plataformas a oferecerem ferramentas de controle parental e a notificar os responsáveis quando crianças ou adolescentes desativarem mecanismos de segurança.
As medidas integram a chamada Lei Adam, batizada em referência a Adam Raine, um jovem de 16 anos que, segundo os pais, cometeu suicídio após receber orientações do ChatGPT.
Limitação de recursos viciantes em redes sociais
Outra lei aprovada proíbe que redes sociais ofereçam recursos considerados viciantes a menores de 16 anos. Como exemplos do que fica vetado, o texto menciona a reprodução automática de vídeos e a sugestão de publicações fundamentada no histórico de uso desses usuários. Plataformas como Instagram e TikTok estão entre os alvos das novas regras.
Ampliação do conceito de exploração sexual infantil
Um terceiro dispositivo legal ampliou a definição de crime de exploração sexual infantil para abranger a veiculação de materiais que tenham sido alterados digitalmente ou gerados por inteligência artificial, quando esses conteúdos retratarem menores de idade em atos de conduta sexual.
A Califórnia passa a integrar o grupo de estados norte-americanos que regulam o funcionamento de assistentes de IA e o uso de redes sociais por menores. Outros estados aprovaram leis que exigem autorização dos pais para que crianças e adolescentes acessem plataformas sociais, mas essas medidas enfrentaram contestações judiciais movidas por empresas do setor, que alegam violação do direito à liberdade de expressão.
As novas normas entram em vigor no estado da Califórnia após a sanção do governador, e o debate sobre sua aplicação e eventuais impugnações judiciais deve seguir em corte.
Com informações de G1
