Califórnia adota leis para proteger menores on-line

O governador da Califórnia, Gavin Newsom, sancionou na quinta-feira uma série de restrições ao uso de redes sociais e às interações com chatbots de inteligência artificial (IA) considerados prejudiciais. As medidas de proteção on-line estão entre as mais rigorosas dos Estados Unidos para usuários jovens.
Ao todo, Newsom, do Partido Democrata, sancionou 13 novas leis, que visam ampliar a proteção da privacidade de menores na internet. As normas incluem restrições a recursos considerados viciantes nas redes sociais para usuários com menos de 16 anos e entrarão em vigor em 1º de janeiro de 2027.
As medidas proíbem as plataformas de redes sociais de expor crianças a recursos considerados "psicologicamente exploradores", como rolagem infinita, recomendações algorítmicas e reprodução automática de conteúdo, desenvolvidos para estimular o uso compulsivo. Estão previstas sanções criminais para qualquer conteúdo alterado digitalmente ou gerado por IA que retrate um menor envolvido em atos sexuais.
Chatbots na mira
Newsom também sancionou uma lei que obriga as empresas de inteligência artificial a informar aos usuários jovens sempre que eles interagirem com um chatbot e não com uma pessoa, além de restringir conteúdos perigosos relacionados a temas como automutilação. Uma das normas proíbe brinquedos que contenham chatbots de IA.
A Califórnia ainda estabelecerá multas e outras penalidades financeiras em ações civis que acusem plataformas de redes sociais de prejudicar crianças.
Segundo Newsom, é difícil demais esperar que os pais, sozinhos, consigam proteger os filhos dos poderosos algoritmos:
" Queremos que nossas crianças, e todas as crianças da Califórnia, cresçam em um mundo onde a tecnologia contribua para o seu bem-estar, em vez de explorar suas vulnerabilidades.
Segundo o governador, foi adotada uma abordagem mais direcionada do que a proibição australiana das redes sociais para menores de 16 anos, pois busca enfrentar a tecnologia por trás do uso viciante, em vez de se concentrar na idade.
" Trata-se de enfrentar de fato o problema: a rolagem, os algoritmos. Trata-se de lidar com a questão central relacionada à engenharia dessas plataformas. Se você resolver esse problema, então a questão da idade deixa de ser o ponto essencial " disse Newsom, ressaltando que "inovação vem acompanhada de responsabilidade."
Reguladores de todo o mundo correm para criar regras de proteção on-line para menores, em meio a um consenso crescente de que as redes sociais e a IA trazem cada vez mais riscos para crianças e adolescentes.
A nova regulamentação da Califórnia dá continuidade à aprovação, neste ano, de mais de duas dezenas de projetos de lei sobre segurança infantil nas redes sociais e na IA pelas assembleias legislativas estaduais. França, Reino Unido, Indonésia e Grécia também propuseram leis que restringem o uso de redes sociais por menores de 16 anos.
A ofensiva regulatória ocorre após uma série de processos judiciais contra empresas de redes sociais, nos quais milhares de adolescentes, escolas e estados americanos acusam Meta, Snap, TikTok e YouTube de prender jovens a produtos viciantes, comparados aos cigarros.
‘Agora é uma avalanche’
No mês passado, a Meta fechou um acordo com 47 estados americanos, no valor de US$ 17,1 bilhões, e concordou em implementar mudanças em suas plataformas. Parte do acordo está condicionada a que outras empresas de redes sociais firmem acertos semelhantes com os estados.
" Chegamos a um ponto de virada, agora é uma avalanche " afirmou Josh Lowenthal, deputado democrata da Assembleia da Califórnia, sobre os projetos de lei.
As empresas de tecnologia argumentam que já implementaram diversas medidas de proteção para usuários jovens. Elas devem contestar na Justiça as novas leis da Califórnia, alegando que as normas violam o direito à liberdade de expressão.