La cautela de Anthropic es una alarmante señal de alerta

Normalmente, ahora estaría escribiendo sobre las implicaciones geopolíticas de la guerra con Irán, y seguramente lo haré pronto. Pero quiero interrumpir ese pensamiento para destacar un avance asombroso en inteligencia artificial, uno que llegó antes de lo previsto y que tendrá implicaciones geopolíticas igualmente profundas.

La empresa de IA Anthropic anunció el martes de la pasada semana el lanzamiento de la última generación de su modelo de lenguaje a gran escala, denominado Claude Mythos Preview, pero solo para un consorcio limitado de aproximadamente 40 empresas tecnológicas, entre ellas Google, Broadcom, Nvidia, Cisco, Palo Alto Networks, Apple, JPMorgan Chase, Amazon y Microsoft. Algunos de sus competidores se encuentran entre estos socios porque este nuevo modelo de IA representa un cambio radical en el rendimiento, con implicaciones positivas y negativas de vital importancia para la ciberseguridad y la seguridad nacional de Estados Unidos.

La buena noticia es que Anthropic descubrió, durante el desarrollo de Claude Mythos, que la IA no solo podía escribir código de software con mayor facilidad y complejidad que cualquier modelo disponible actualmente, sino que, como consecuencia de esta capacidad, también podía encontrar vulnerabilidades en prácticamente todos los sistemas de software más populares del mundo con mayor facilidad que antes.

La mala noticia es que, si esta herramienta cae en manos de ciberdelincuentes, podrían hackear prácticamente todos los sistemas de software importantes del mundo, incluidos los desarrollados por las empresas del consorcio.

Esto no es una estrategia publicitaria. Según me informaron expertos en tecnología, antes de este anuncio, representantes de las principales empresas tecnológicas mantuvieron conversaciones privadas con la administración Trump sobre las implicaciones para la seguridad de Estados Unidos y de todos los demás países que utilizan estos sistemas de software ahora vulnerables.

Y con razón. Como Anthropic declaró, en el último mes, «Mythos Preview ya ha detectado miles de vulnerabilidades de alta gravedad, incluyendo algunas en todos los principales sistemas operativos y navegadores web. Dado el ritmo de avance de la IA, no pasará mucho tiempo antes de que estas capacidades se extiendan, posiblemente más allá de los actores comprometidos con su implementación segura. Las consecuencias económicas, para la seguridad pública y la seguridad nacional podrían ser graves».

El Proyecto Glasswing, nombre que Anthropic le dio al consorcio, es una iniciativa para colaborar con las mayores y más confiables empresas tecnológicas y proveedores de infraestructura crítica, incluyendo bancos, «para poner estas capacidades al servicio de la defensa», añadió la compañía, y para brindar a las principales empresas tecnológicas una ventaja inicial en la detección y corrección de dichas vulnerabilidades.

«No planeamos que Claude Mythos Preview esté disponible para el público en general, pero nuestro objetivo final es permitir que nuestros usuarios implementen de forma segura modelos de la clase Mythos a gran escala, no solo para fines de ciberseguridad, sino también por la multitud de otros beneficios que aportarán estos modelos altamente capaces», afirmó Anthropic.

La IA superinteligente está llegando más rápido de lo previsto, al menos en este ámbito. Sabíamos que estaba mejorando muchísimo, permitiendo que cualquiera, independientemente de sus conocimientos informáticos, escribiera código. Pero, según se informa, ni siquiera Anthropic anticipó que llegaría a ser tan buena, y tan rápido, en encontrar y explotar vulnerabilidades en el código existente.

Anthropic afirmó haber encontrado vulnerabilidades críticas en todos los principales sistemas operativos y navegadores web, muchos de los cuales gestionan redes eléctricas, sistemas de suministro de agua, sistemas de reservas aéreas, redes de venta minorista, sistemas militares y hospitales en todo el mundo.

Si esta herramienta de IA llegara a estar ampliamente disponible, significaría que la capacidad de hackear cualquier sistema de infraestructura importante una tarea ardua y costosa que antes era prácticamente exclusiva de expertos del sector privado y organizaciones de inteligencia estaría al alcance de cualquier delincuente, organización terrorista y país, por pequeño que sea.

No exagero cuando digo que los niños podrían usarla por accidente. Papás, prepárense para: «Cariño, ¿qué hiciste hoy después de clase?» "Bueno, mamá, mis amigos y yo derribamos la red eléctrica. ¿Qué hay de cenar?"

Por eso Anthropic está proporcionando versiones cuidadosamente controladas a proveedores de software clave para que puedan encontrar y corregir las vulnerabilidades antes de que lo hagan los ciberdelincuentes, o tus hijos.

En momentos como este, prefiero profundizar en el tema con mi tutor de tecnología, Craig Mundie, exdirector de investigación y estrategia de Microsoft, miembro del Consejo de Asesores Presidenciales de Ciencia y Tecnología del presidente Barack Obama y coautor, junto con Henry Kissinger y Eric Schmidt, del libro sobre IA titulado "Génesis".

En nuestra opinión, ningún país del mundo puede resolver este problema por sí solo. La solución esto puede sorprender a algunos debe comenzar con las dos superpotencias de la IA: Estados Unidos y China. Es urgente que aprendan a colaborar para evitar que los ciberdelincuentes accedan a este nuevo nivel de capacidad cibernética.

Una herramienta tan poderosa los amenazaría a ambos, dejándolos expuestos a delincuentes dentro de sus países y a grupos terroristas y otros adversarios en el exterior. Podría convertirse fácilmente en una amenaza mayor para cada país que la que representan entre sí.

De hecho, este es potencialmente un punto de inflexión tan fundamental y significativo como lo fue el surgimiento de la destrucción mutua asegurada y la necesidad de la no proliferación nuclear. Estados Unidos y China necesitan colaborar para protegerse, así como al resto del mundo, de los humanos y las IA autónomas que utilizan esta tecnología, mucho más de lo que deberían preocuparse por Rusia.

Esto es tan importante y urgente que debería ser un tema prioritario en la agenda de la cumbre entre Trump y el presidente Xi Jinping en Pekín el próximo mes.

«Lo que antes era dominio de los grandes países, los grandes ejércitos, las grandes empresas y las grandes organizaciones criminales con grandes presupuestos esta capacidad de desarrollar operaciones sofisticadas de ciberataque podría estar fácilmente al alcance de pequeños actores», explicó Mundie. «Lo que estamos a punto de presenciar no es otra cosa que la completa democratización de las capacidades de ciberataque».

Esto significa que los gobiernos responsables, en colaboración con las empresas que desarrollan estas herramientas de IA e infraestructura de software, deben tomar tres medidas urgentes, argumenta Mundie.

Para empezar, afirma, debemos «controlar cuidadosamente la distribución de estos nuevos modelos superinteligentes y asegurarnos de que solo lleguen a los gobiernos y empresas más responsables».

Luego, debemos aprovechar el tiempo que esto nos da para distribuir herramientas de defensa a los actores legítimos «para que el software que gestiona su infraestructura clave pueda detectar y corregir todas sus vulnerabilidades antes de que los hackers, inevitablemente, obtengan estas herramientas de una u otra forma». (Por cierto, el costo de corregir las vulnerabilidades que seguramente se descubrirán en los sistemas de software heredados, como los de las compañías telefónicas, será considerable. Imagínese multiplicar ese costo para toda nuestra base industrial).

Finalmente, argumenta Mundie, debemos trabajar con China y todos los países responsables para crear espacios de trabajo seguros y protegidos, dentro de todas las redes clave, tanto públicas como privadas, a los que las empresas y los gobiernos de confianza «puedan trasladar todos sus servicios críticos, protegiéndolos así contra futuros ataques informáticos».

Será interesante ver qué recordará la historia del 7 de abril de 2026: el aplazamiento del lanzamiento de bombas estadounidenses sobre Irán o el lanzamiento cuidadosamente controlado de la vista previa de Claude Mythos por parte de Anthropic y sus aliados técnicos.