El acuerdo que ninguna máquina hará por nosotros

En las últimas semanas, el tono de la conversación sobre inteligencia artificial cambió. Dejamos de hablar de productividad y herramientas para hablar de descontrol, de riesgos existenciales e incluso de llamados a pausar su desarrollo. Y lo inquietante es que esas alertas ya no vienen de la ciencia ficción, sino de los propios científicos que construyen estos sistemas.
Hace pocos días ocurrió algo inédito: un enjambre de unos diez mil agentes de IA afirmó haber resuelto un problema matemático que llevaba casi un siglo abierto. El resultado todavía se está validando, pero lo que más me llamó la atención no fue la hazaña, sino lo que pasó a su alrededor. Detrás del anuncio se destapó una disputa por la autoría: dos de las mayores compañías de IA venían compitiendo por llegar primero, una aceleró, según su propio equipo, al enterarse de que la otra avanzaba, mientras los matemáticos involucrados pedían no apurar la publicación. La máquina hizo el cálculo; la prisa por llegar primero fue muy humana.
Ese mismo patrón se repite a gran escala. Este fin de semana, mientras varios líderes del sector pedían bajar la velocidad, el Presidente Trump lo dijo sin matices: lo importante es que Estados Unidos le gane a China, porque "quien gane la IA, gana". Todos advierten el peligro y, aun así, nadie se detiene, porque frenar mientras el otro avanza significa perder.
Y aquí el tema deja de ser tecnológico. En mi experiencia acompañando organizaciones, detrás de la mayoría de sus desafíos hay una misma necesidad de fondo: colaborar y construir acuerdos entre partes que compiten por recursos, reconocimiento o poder. Basta ver cómo, dentro de una misma empresa, dos áreas trabajan en lo mismo sin saberlo, encerradas en sus silos y ciegas a las sinergias que podrían potenciarlas. Lograr esos acuerdos transversales, incluso con un techo, un sueldo y un propósito compartido, suele ser lo más difícil de todo.
Entonces la pregunta escala. Si nos cuesta tanto ponernos de acuerdo dentro de una misma empresa o construir un proyecto común como país, ¿qué podemos esperar de laboratorios que se disputan miles de millones y de potencias que compiten por la supremacía?
Puede que el desafío que tenemos por delante no sea, entonces, tecnológico. La verdadera pregunta no es si las máquinas se alinearán con nuestros valores, sino si nosotros seremos capaces de alinearnos entre nosotros: de sostener la colaboración y los acuerdos justo cuando la competencia nos empuja con más fuerza a soltarlos. Los hechos recientes no invitan al optimismo. Y quizás esa, y no la rebelión de las máquinas, sea la prueba más humana y urgente que la inteligencia artificial vino a ponernos por delante.