Secretário-geral da onu defende supervisão da inteligência artificial

Em meio à intensificação do debate global sobre os riscos de segurança envolvendo a inteligência artificial (IA) e aos crescentes apelos por regulamentações para a tecnologia, o tema ganhou espaço na 81ª Assembleia Geral das Nações Unidas, que começou ontem em Nova York. Hoje, os CEOs da OpenAI, Sam Altman, e da Anthropic, Dario Amodei, vão debater os riscos e impactos da IA no Conselho de Segurança da ONU " é a primeira vez que as questões de segurança da tecnologia são levadas diretamente à mesa do órgão. O encontro ocorrerá às 16h (horário de Brasília).
O secretário-geral da ONU, António Guterres, usou ontem seu último discurso como líder da organização para incentivar os países a promoverem "condições para o desenvolvimento responsável da IA e as salvaguardas adicionais necessárias para lidar com os riscos" e a "trabalhar em prol de um quadro multilateral de gestão de riscos da IA, apoiado por uma supervisão crível e independente".
" Estamos testemunhando uma transferência extraordinária de poder, dos governos para um punhado de indivíduos e empresas privadas " afirmou Guterres. " Isso está ocorrendo em uma velocidade espantosa, que supera nossa capacidade de compreender todas as consequências.
Guterres fez ainda um apelo, sem citar os EUA e a China, por salvaguardas para assegurar o desenvolvimento seguro da tecnologia:
" Os governos com as maiores capacidades de IA têm as maiores responsabilidades com a Humanidade para estabelecer canais de diálogo, transparência, confiança e cooperação.
Mapear os riscos
Na reunião do Conselho de Segurança, Altman e Amodei serão acompanhados por Yoshua Bengio, copresidente do Painel Científico Independente da ONU sobre IA, e por Clément Delangue, CEO e cofundador da Hugging Face, plataforma que foi alvo de ataques de agentes de IA da OpenAI.
Bengio fará uma apresentação como "observador independente". O pesquisador canadense, considerado um dos "pais da IA moderna", é uma das vozes mais poderosas na defesa de uma pausa no desenvolvimento da tecnologia como forma de prevenir eventos catastróficos. No último dia 11, ele escreveu: "Acredito que devemos rever os fundamentos da forma como treinamos as IAs, ou seja, a imitação humana e o aprendizado por reforço, nos quais se baseiam os modelos mais avançados da atualidade."
Os quatro convidados serão sabatinados na sequência pelos 15 membros do conselho, que vão abordar o uso mal-intencionado de modelos, o risco de perda de controle sobre sistemas avançados, a proliferação de armas autônomas e possíveis riscos biológicos ou químicos impulsionados por IA.
Uma autoridade da França, país que preside o Conselho este mês, afirmou que a escolha dos participantes foi feita como resposta direta aos incidentes e às violações de cibersegurança provocados em julho por IAs da OpenAI, que invadiram a Hugging Face. Essa seria uma razão pela qual foram convidadas empresas diretamente impactadas ou envolvidas " o que explica a ausência de representantes de companhias chinesas, como a DeepSeek, e de empresas de cibersegurança, setor que criticou a OpenAI pela maneira como ela testa e monitora seus agentes de IA.
Ainda assim, a startup chinesa deve enviar ao Conselho um relatório sobre os riscos da tecnologia.
Segundo autoridades que vão participar da sessão, o objetivo é estabelecer um diagnóstico compartilhado dos riscos (perda de controle, armas autônomas, uso biológico/químico) e mapear pontos de convergência, em vez de impor um modelo único de governança.
Jantar com Xi Jinping
A ideia, no entanto, esbarra em uma possível falta de cooperação das duas principais potências do setor. Ao discursar na ONU ontem, o presidente Donald Trump afirmou que "os EUA rejeitam totalmente qualquer tentativa de construção de controle globalista sobre a IA, que, a partir de agora, será chamada de superinteligência" (termo que ele passou a defender no fim de semana para substituir a expressão "inteligência artificial"). O americano chegou a comparar os alertas sobre a IA àqueles sobre o aquecimento global, que ele considera falsos, apesar de todas as evidências científicas.
Trump ainda recebe esta semana o presidente chinês, Xi Jinping, e a inteligência artificial deve ser um dos temas abordados pelos dois líderes. Amanhã haverá um jantar em homenagem a Xi, e os CEOs das principais empresas de tecnologia americanas estarão presentes.
Segundo fontes, está confirmada a presença de Jensen Huang (Nvidia), Satya Nadella (Microsoft), Mark Zuckerberg (Meta), Cristiano Amon (Qualcomm) e Altman. Estarão ainda o presidente do Conselho de Administração da Apple, Tim Cook, Jeff Bezos (Amazon) e Elon Musk (SpaceXAI). (*Com agências internacionais)