Brasil foca mais em risco imediato do que no ‘existencial’

Projetos sobre a regulamentação da IA no Brasil já tramitam no Congresso, e órgãos técnicos do governo e especialistas debatem o conceito de "risco existencial" provocado pela nova tecnologia e as chamadas "AI containment failure", a perda de controle humanos sobre os agentes autônomos. Porém, por aqui a ênfase é nos chamados riscos reais e imediatos, como desinformação, manipulação de imagens envolvendo menores, discriminação algorítmica e impactos no mercado de trabalho, por exemplo.
A Comissão de Comunicação da Câmara aprovou no mês passado o projeto de Lei 2668/2025, que cria um marco regulatório da IA. O texto, que ainda precisa passar por outras três comissões antes de ir ao plenário, estabelece direitos, deveres, princípios, mecanismos de governança, normas de transparência civil e penal para o uso e desenvolvimento da IA no país. E coloca a Autoridade Nacional de Proteção de Dados (ANPD) como principal reguladora do setor.
Uma das medidas propostas pelo texto é o conceito de "IA de alto risco", sistemas que tenham potencial impacto de dano a direitos fundamentais, segurança, saúde, democracia e "outros interesses públicos relevantes".
Em linha com a defesa de Amodei, da Anthropic, do uso de avaliadores independentes em empresas de IA, o marco legal brasileiro em discussão exige a realização de auditorias periódicas e avaliações de impacto algorítmico para os tais "sistemas de alto risco". Essas análises precisarão ser feitas por entidades independentes ou equipes internas especializadas seguindo critérios definidos pela ANPD.
A proposta impõe obrigações para as plataformas, como identificação e rastreamento de conteúdos artificiais, revisão humana de decisões automáticas, obrigações de transparência e auditabilidade e proteção de dados pessoais, e prevê pagamento de multa e reclusão de até oito anos em caso de uso de conteúdo gerado por IA, sem sinalização explícita, em situações como fraudes, manipulação de eleições, armazenamento de pornografia infantil e incitação à violência.
Na Câmara também está em tramitação o projeto de Lei 2.338/2023, aprovado no Senado, com regras para empresas do setor e como será feita a supervisão da tecnologia. Um dos principais pontos é criação do Sistema Nacional de Regulação e Governança de Inteligência Artificial (SIA), coordenada pela Autoridade Nacional de Proteção de Dados (ANPD), outros órgãos do poder Executivo e especialistas.
O texto define tecnologias consideradas de alto risco, sistemas que podem causar danos individuais ou à sociedade " empresas terão que fazer testes para avaliação de segurança e implementação de medidas para mitigar ações discriminatórias. Já os órgãos públicos terão que possibilitar ao cidadão o direito a explicação e revisão humanas sobre decisões que envolverem IA.