‘Mundo está em perigo’, diz pesquisador da anthropic

Pesquisador da equipe de segurança da Anthropic, Mrinank Sharma anunciou sua saída da empresa na semana passada com um alerta chamativo. Em sua carta de demissão, ele cita preocupações crescentes com os riscos da inteligência artificial (IA), armas biológicas e uma série de crises globais interconectadas.
"O mundo está em perigo. E não apenas por causa da inteligência artificial ou das armas biológicas, mas por causa de toda uma série de crises interligadas que estão se desenrolando neste exato momento", escreveu Sharma no X.
Criada por dissidentes da OpenAI, a Anthropic surgiu como resposta ao rápido avanço comercial da companhia de Sam Altman, que supostamente sacrificava o desenvolvimento seguro da IA.
Sharma afirmou que empresas como a Anthropic enfrentam pressões constantes para deixar valores éticos de lado. Ele disse que "viu repetidamente como é difícil deixar que nossos valores realmente governem nossas ações". Segundo ele, companhias como a Anthropic "enfrentam constantemente pressões para deixar de lado o que é mais importante".
Ele liderava uma equipe que pesquisou medidas de segurança para sistemas de IA. Sharma investigava por que os sistemas de IA generativa bajulam os usuários, combatia os riscos do bioterrorismo assistido por IA e pesquisava "como os assistentes de IA podem nos tornar menos humanos".
Embora não tenha atribuído perigo imediato a nenhum modelo específico da Anthropic, o pesquisador avisou que vai abandonar completamente a carreira. Ele decidiu estudar poesia e dedicar-se à escrita.