Anthropic sugiere una pausa global en el desarrollo de la IA

La empresa de inteligencia artificial Anthropic propuso esta semana una pausa global en el desarrollo de sistemas de IA cada vez más potentes, ante los indicios de que los modelos más recientes muestran señales de que podrían escapar del control humano. La firma con sede en San Francisco, desarrolladora de los modelos de IA de Claude, dijo en un informe que una desaceleración mundial en el desarrollo de IA de vanguardia sería "probablemente una buena idea". Pero advirtió que si solo una empresa frena, sus rivales podrían adelantarse en la carrera. "Creemos que sería bueno para el mundo tener la opción de disminuir o pausar temporalmente el desarrollo de la IA para permitir que las estructuras sociales y la investigación sobre alineamiento sigan el ritmo del avance de la tecnología", dijo. Una pausa real significaría que grandes compañías de IA en varios países, principalmente China y Estados Unidos, acuerden de manera unánime parar al tiempo, bajo reglas que todos puedan verificar, dijo Anthropic. "Sin un mecanismo global de coordinación, empresas y gobiernos tendrán que tomar decisiones difíciles sobre seguridad mientras enfrentan presiones competitivas y geopolíticas", señaló. Pero la propuesta se enfrenta a una difícil batalla en Washington y en Silicon Valley. Funcionarios estadounidenses y ejecutivos de las grandes tecnológicas han argumentado que disminuir el desarrollo de la IA podría ceder una ventaja significativa a China.