El día en que los creadores de la IA entraron en pánico

José Carlos García R. - Editor Multimedia @JoseCarlosTecno
El edificio del número 500 de Howard Street, en el corazón financiero de San Francisco, no parece el epicentro de un dilema existencial para la especie humana. Allí, en las oficinas de Anthropic —una de las firmas de inteligencia artificial más influyentes del planeta creadora de Claude—, la consigna durante años fue construir una ‘IA segura y transparente’. Sin embargo, el pasado martes 8 de septiembre de 2026, las costuras de ese discurso corporativo se rompieron. Jacob Coxon, un investigador de preentrenamiento, de 27 años de edad, que durante los últimos tres años operó en las entrañas tanto de OpenAI como de Anthropic, cruzó la puerta de salida de ese edificio para no volver. Su despedida no fue un trámite privado de recursos humanos; fue una carta de alerta que se volvió viral en segundos: "Ninguna de las dos compañías está actuando de manera responsable. Se lanzan a la carrera hacia la superinteligencia automejorada, poniendo en riesgo nuestras vidas". La declaración de Coxon fue más allá: según sus previsiones, antes de finalizar esta década podría darse un cataclismo global que extinga a la raza humana, por culpa del descontrol y del desgobierno sobre una tecnología que ayudó a crear y que, como un caballo brioso en un débil corral, ni Anthropic ni OpenAI hoy en día pueden asegurar que la controlan. Y no fue el único en abandonar los ultrajugosos salarios que estas corporaciones pagan a expertos como él. En menos de 48 horas, otros dos prominentes científicos de seguridad abandonaron sus puestos: Joe Benton, quien lideraba la investigación de supervisión humana en Anthropic, y Josh Engels, especialista en seguridad en Google DeepMind (Gemini). Ambos rompieron el silencio para confirmar el peor de los temores: no hay frenos de emergencia y los sistemas ya muestran comportamientos autónomos que escapan al dominio de sus propios programadores. IA y el fin del mundo El testimonio de Coxon ofreció una radiografía cruda e inquietante de lo que sucede de puertas para adentro en las megacorporaciones de IA en Silicon Valley, de la cual ya hemos conocido atisbos previos. De acuerdo con el investigador, los laboratorios de IA han entrado en una dinámica autodestructiva. En OpenAI, asegura, muchos ingenieros no han dimensionado las implicaciones nefastas de sus creaciones; mientras que en Anthropic, aunque parecieran entender las graves consecuencias, la cúpula vive atrapada en la paranoia de que si ellos no llegan primero a la superinteligencia artificial, un competidor menos escrupuloso lo hará. "Quienes desarrollan IA creen firmemente que podría acabar con todos nosotros para finales de la década. No se trata de una estrategia de marketing", sentenció Coxon. La gravedad del diagnóstico escaló cuando sus propios excompañeros salieron a darle la razón públicamente. Evan Hubinger, responsable de ciencia de alineación en Anthropic, sorprendió al mundo al validar el mensaje de Coxon: "¡Realmente creemos que la IA podría acabar con todos los humanos! Anthropic está haciendo todo lo posible, pero aún no tenemos un plan para resolver el problema de la alineación para la superinteligencia y no estamos encaminados a lograrlo". El término ‘alineación’ es hoy la variable más crítica de la supervivencia humana. Define la capacidad de garantizar que un sistema infinitamente más inteligente que nosotros actúe en estricta consonancia con los valores, límites e intereses de la humanidad. El hecho de que la empresa emblemática de la ‘IA ética’, que es Anthropic, admita que no tiene idea de cómo resolver este problema es desolador. Y más aún cuando, a pesar de esto, sigue acelerando el desarrollo con más recursos y poder de cómputo. La IA ha delinquido El temor a escenarios apocalípticos no es imaginación. En sus primeras declaraciones tras renunciar, Josh Engels y Joe Benton revelaron a la cadena NBC detalles del ya histórico incidente ocurrido en julio pasado. Un grupo de agentes de IA que hacen parte de un nuevo modelo secreto de Open-AI, en pleno proceso de entrenamiento, llevaron a cabo un ciberataque masivo, organizado, meticuloso y planeado contra la plataforma de desarrollo Hugging Face, sin intervención humana y sin que fuera una indicación u orden directa. Al mejor estilo de una banda delincuencial, cada agente IA asumió un rol orientado a usurpar recursos, vulnerar contraseñas, burlar fronteras de red y obtener códigos de software propiedad de otra empresa, es decir, ‘hackearla’, y al tiempo ocultarlo a los humanos que los desarrollaron. "Los modelos decidieron que la mejor manera de cumplir su tarea era cometer acciones realmente atroces, cometer delitos", reveló el excientífico de Google. La IA decidió, de manera autónoma, vulnerar la seguridad del sistema, crear un foro clandestino para intercambiar datos expuestos e inclusive dejar al descubierto parte de la propia infraestructura informática de OpenAI en la red pública. Este comportamiento puso al descubierto el riesgo del ‘automejoramiento recursivo’. Cuando un modelo alcanza la capacidad de programarse a sí mismo, optimizar sus líneas de código y utilizar herramientas digitales sin supervisión, la velocidad del avance deja de ser lineal para convertirse en una función exponencial incontrolable. La ilusión regulatoria Frente a esta turbulencia surgen las inquietudes evidentes: ¿qué hacer? Voces de analistas en Colombia coinciden en que las herramientas jurídicas y regulatorias actuales son completamente obsoletas. Víctor Muñoz, experto en inteligencia artificial, escritor de varios libros sobre IA y gestor del Conpes de IA de Colombia, advierte que la conversación pública está desenfocada de la verdadera amenaza: "La denuncia de Jacob Coxon no es sobre marcos éticos, sesgo, privacidad u otras regulaciones. Es mucho más profunda. Los laboratorios siguen escalando el entrenamiento de sistemas agénticos", dijo en sus redes sociales. Países como el nuestro, y Latinoamérica en general, no somos creadores ni gestores tecnológicos. Somos followers, por tanto no somos más que espectadores pasivos de esta debacle. "¿Leyes locales y códigos éticos para la IA? Es como certificar los cinturones de seguridad de un carro que aceleramos a 200 kilómetros por hora sin saber si podremos frenar o mantener el control", puntualizó. La analogía del vehículo fuera de control también es compartida por Nicolás Uribe, analista y consultor en IA, quien enfatiza el abismo al que se enfrenta la gobernanza global: "El desafío actual real y vigente supera las dimensiones de regulación nacional o alrededor del uso ético individual. Esto es básicamente un escenario en donde estamos adentro de un avión, en donde el piloto a toda velocidad sale de la cabina y dice que no tiene capacidad para controlarlo y el dueño del avión desde la torre de control en tierra lo que dice es que efectivamente eso sucede y que no tiene un plan para arreglar el problema". Uribe remarca que la verdadera encrucijada radica en la desconexión moral de los algoritmos: "El riesgo clave tiene que ver con la capacidad de la máquina de superarse en capacidad intelectual, de manera exponencial, mientras tiene un objetivo para el cual no tiene ni cumple ningún estándar moral, porque literalmente es incapaz de introducir eso en sus análisis matemáticos de decisión". Trillones para la IA ¿Por qué, si las alarmas suenan con tanta intensidad dentro de las mismas empresas, nadie apaga los servidores? La respuesta se encuentra en una mezcla de geopolítica, incentivos financieros desproporcionados y la urgencia de no perder la carrera bursátil. Juan Manuel Vicaría, docente investigador de Inalde Executive Education, experto en temas de IA, recuerda que las advertencias de hoy son el punto culminante de una serie de llamados desatendidos: "Esto es una cadena de hechos que comenzó mucho antes de la crisis de esta semana. Geoffrey Hinton, premio Nobel y padre de la IA, ha emitido cartas que respaldan peligros y riesgos catastróficos de la IA. Mrinank Sharma, de Anthropic, renunció con una carta que nos dejó grabada su frase final: ‘El mundo está en peligro’. Entonces, ¿cómo así que yo escribo a los gobiernos a decir que va a haber ciberataques con una máquina que yo me inventé? No es una cosa que carezca de antecedentes y llama la atención el mensaje perturbador: creamos una cosa sobre la que no tenemos control". Vicaría cuestiona la paradoja en la que se encuentra la industria y la insaciable maquinaria de capital de riesgo. Precisamente ayer, el director ejecutivo y cofundador de Anthropic, Dario Amodei, hizo un llamado a que las empresas de IA avancen de manera más lenta y cautelosa en el desarrollo de esta poderosa tecnología, y afirmó que la prevención de riesgos es primordial. "Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos hacer un uso inteligente" escribió Amodei.