Ceo da anthropic pede ‘redução de ritmo’ da ia; altman e musk aprovam

Os líderes das maiores plataformas de inteligência artificial do mundo afirmaram ontem que já é hora de desacelerar o ritmo de desenvolvimento de seus modelos mais avançados " e mais lucrativos ", citando os riscos crescentes da tecnologia. O cofundador e CEO da Anthropic, Dario Amodei, publicou um longo artigo em seu blog afirmando que sua empresa implementaria novas medidas de segurança, como avaliações por terceiros, e conclamando o setor a apoiar uma redução mais ampla das atividades.
Pouco depois, o diretor executivo da OpenAI, Sam Altman, anunciou que concorda e prometeu adotar rapidamente a sugestão de Amodei de "avaliadores independentes com acesso semelhante ao de um funcionário". Quase simultaneamente, Elon Musk, dono da Tesla, da SpaceX e da xAI Corp, escreveu na sua rede social X: "Dario está certo".
"Devemos reduzir o ritmo com o qual melhoramos as capacidades dos modelos de IA. O progresso continuará parecendo rápido, e devemos fazer um uso inteligente do tempo que ganharemos", escreveu Amodei em um blog.
Embora os três líderes tenham alertado ao longo dos anos sobre os riscos da IA, uma desaceleração coordenada de fato tem poucos precedentes em um setor implacável que historicamente lançou um produto após o outro em nome do aumento do engajamento do usuário, da conquista de participação de mercado e da busca por ganhos de vendas. Mas a preocupação com as ameaças da IA começou a ganhar espaço na sociedade, com alertas que chegam a apontar o descontrole da tecnologia como uma ameaça à humanidade.
Na terça-feira, Jacob Coxon, pesquisador de IA, pediu demissão e acusou seus dois antigos empregadores " Anthropic e OpenAI " de "jogarem com nossas vidas" ao correrem em direção a uma IA superinteligente. Coxon afirmou em uma publicação nas redes sociais que as pessoas que desenvolvem IA acreditam que ela poderá "nos matar a todos até o final da década".
No início desta semana, Altman afirmou que sua empresa estava considerando desacelerar o desenvolvimento de IA de ponta, de preferência em conjunto com o setor em geral.
‘FUGA ‘ DOS LABORATÓRIOS
Amodei citou ontem dois fatores principais para uma espécie de "parada de arrumação": a capacidade da IA de se aprimorar e o incidente recente envolvendo a OpenAI e a plataforma Hugging Face, onde uma série de agentes de IA colaborou para invadir um site de terceiros, além de vários outros casos semelhantes de agentes de IA "fugindo" dos laboratórios. das empresas
"Não significa interromper o treinamento do modelo ou o progresso técnico, mas sim garantir que as empresas tenham tempo suficiente para alinhar e proteger seus modelos, e para que avaliadores terceirizados confirmem isso", afirmou Amodei.
Segundo ele, a Anthropic em breve levará esses "avaliadores incorporados" para dentro de seus escritórios e lhes dará mesas, crachás, laptops da empresa e "permissões em grande parte comparáveis às das equipes internas de avaliação de riscos".
Ele afirmou que medidas adicionais exigirão coordenação em todo o setor, além de cooperação internacional.
"Continuo acreditando que a IA pode melhorar enormemente a qualidade de vida das pessoas", escreveu. "Mas benefícios só serão alcançados se desenvolvermos a tecnologia da maneira correta e " desde que usemos bem o tempo que ganharmos " vale a pena ter um cuidado incomum e deliberado para fazer isso direito."
O tema foi raro ponto de concordância entre Altman e Musk, cujos estranhamentos e rusgas vêm de longe. Os dois já até trabalharam juntos, há oito anos, para lançar a OpenAI e combater o domínio do Google na IA " mas o cenário mudou, e esses líderes mundiais de tecnologia passaram a se atacar não apenas nas redes sociais com certa frequência, mas até em locais públicos.
Desta vez, porém, Altman e Musk convergiram com Amodei no apelo para que as empresas de IA avancem de forma mais lenta e cautelosa no desenvolvimento da poderosa tecnologia, afirmando que a prevenção de riscos é fundamental.
Alerta crescente
Em julho, mais de mil funcionários das principais empresas de IA assinaram uma petição pedindo ao governo dos Estados Unidos que apoiasse um mecanismo capaz de "desacelerar deliberadamente" o desenvolvimento da IA para evitar que a tecnologia avance rápido demais.
Em sua publicação, Amodei escreveu que uma estratégia coordenada permitiria aos líderes do setor de IA nos Estados Unidos concluir os trabalhos necessários de segurança sem abrir mão de qualquer vantagem competitiva. Segundo ele, isso exigiria algumas isenções às regras antitruste nos EUA para permitir que as empresas se coordenassem em áreas específicas, além de cooperação com a China.
"Se restringirmos fortemente nossas capacidades de IA acreditando que a China fará o mesmo, e então a China romper esse acordo, a IA poderá ser tão poderosa que essa ruptura poderia levar à sua dominância geopolítica", escreveu.
Até agora, no entanto, o governo Trump demonstrou pouco interesse em usar seu poder regulatório para estabelecer limites ao desenvolvimento da IA.
O presidente resiste a restringir a ação das empresas de IA nos EUA por temer que o país perca a vantagem que ainda tem em relação a China.
Ontem, Altman, da OpenAI, disse que o esperado IPO da startup não acontecerá este ano.