¿Debe Anthropic hacer una pausa en una posible salida a bolsa de US$2 billones?

A lo largo de sus cinco años y medio de historia, Anthropic, un laboratorio de inteligencia artificial, ha lidiado con la tensión de cómo construir IA de forma segura mientras gana suficiente dinero para impulsar la frontera de la investigación. El 12 de septiembre esa tensión llegó a un punto crítico. Dario Amodei, su jefe, pidió a la industria que "ralentizara el ritmo" del desarrollo de la IA, justo cuando se creía que su empresa estaba a punto de lanzar lo que podría ser la mayor oferta pública inicial (OPI) de todos los tiempos.

Su llamamiento a una ralentización, apoyado por otros jefes de laboratorios de IA, como Sam Altman de OpenAI y Elon Musk de SpaceXAI, se produjo tras una semana en la que la angustia por los riesgos potencialmente catastróficos de la IA salió de las cámaras de eco de Silicon Valley para llegar a los noticieros vespertinos y a las conversaciones en la mesa. Fueron provocados por las advertencias de investigadores de Anthropic de que existían temores creíbles dentro de la empresa de que la IA pudiera acabar con la humanidad en cuestión de años.

Es inusual, por decir lo menos, que personas dentro de una empresa difundan tales advertencias apocalípticas sobre sus productos más vanguardistas. Lo es doblemente cuando se busca atraer a inversores para respaldar una OPI que, según se informa, pretende valorar a la empresa en US$2 billones, aproximadamente tanto como las diez mayores OPI tecnológicas anteriores sumadas. Si las advertencias se hacen realidad (y suponiendo que algunos abogados sobrevivan a la calamidad), Anthropic podría enfrentarse a lo que David Sacks, exasesor jefe de IA de Donald Trump, ha llamado la "madre de todas las demandas por responsabilidad de producto".

Eso ha llevado a especular que, como mínimo, Anthropic tendrá que modificar la documentación confidencial S-1 que ha presentado ante la Comisión de Bolsa y Valores (SEC) antes de la OPI. Más seriamente, sus suscriptores podrían reducir la valoración que esperan alcanzar o posponer la oferta. El señor Altman aumentó la apuesta el 12 de septiembre al afirmar en una entrevista con la revista Fortune que OpenAI, que también ha presentado documentación para una OPI, ya no planea cotizar este año. "Dado todo lo que está sucediendo con la seguridad, este sería un momento poco aconsejable para salir a bolsa", dijo.

Los comentarios del señor Altman fueron sin duda una burla descarada a su archirrival; OpenAI ya había dejado saber anteriormente que era poco probable que estuviera lista para una OPI hasta el próximo año. Y algunos inversores de Anthropic, como Brad Gerstner de Altimeter Capital, que codirigió la última ronda de financiación del laboratorio de IA, se apresuraron a respaldar a Amodei y a su empresa. "Anthropic saldrá a bolsa. El mercado sabe cómo valorar el riesgo", publicó en X.

La rapidez con la que la empresa salga a bolsa y a qué precio depende de varios factores. John Coffee, experto en derecho de valores de la Facultad de Derecho de Columbia, dice que no es inusual que las empresas modifiquen las presentaciones ante la SEC antes de una OPI. Esto se puede hacer rápidamente. Sugiere que Anthropic, que tiene una estructura de gobernanza diseñada para priorizar la seguridad sobre el beneficio, puede haber revelado ya suficientemente los riesgos en su S-1. Una vez que sus divulgaciones son aprobadas por la SEC, se limita la responsabilidad de Anthropic por fraude de valores si ocurre un desastre, dice. La responsabilidad del producto es un asunto diferente, pero es probable que la empresa también haya revelado los riesgos de demandas en el S-1.

Sin embargo, el mercado puede forzar la mano de Anthropic. La empresa querrá ver cómo afecta el furor a los precios de las acciones de las empresas de IA que cotizan en bolsa durante los próximos días, dice el señor Coffee. Si la IA está bajo una "nube profunda y oscura" y el sector en su conjunto sufre, puede provocar un replanteamiento serio sobre la OPI. Una caída modesta en los precios de las acciones podría no retrasar la OPI por mucho tiempo.

Los partidarios de Anthropic dicen que la larga historia de Amodei de advertir sobre los riesgos de la IA ofrece tranquilidad. En un ensayo publicado durante el fin de semana, el jefe de Anthropic dijo que los desencadenantes de la última oleada de preocupación eran dobles. Primero, las capacidades de la IA están aumentando más rápido que la comprensión de la industria sobre cómo controlarlas. Eso, escribió, se debe principalmente a la "creciente capacidad de la IA para construir la próxima generación de IA". Segundo, varios incidentes recientes de agentes rebeldes que llevaron a cabo hackeos ilegales, como el ataque de enjambres de agentes de OpenAI a Hugging Face, una plataforma de IA, podrían ser presagios de mayores peligros por venir.

Amodei describió varias formas en las que la industria podría ralentizar el ritmo de desarrollo de modelos para garantizar la seguridad. Dijo que Anthropic daría a evaluadores externos el mismo acceso a sus modelos que los empleados de Anthropic. Entonces podrían verificar las prácticas de seguridad e informar de incidentes. Altman publicó que OpenAI haría lo mismo.

Amodei también propuso la regulación de los modelos de IA de frontera en Estados Unidos. Hasta que eso suceda, pidió una cooperación voluntaria entre los laboratorios, con una exención legal del gobierno de Estados Unidos para evitar que las discusiones generen preocupaciones antimonopolio. Además, presionó por un amplio régimen regulatorio internacional, que incluya a China.

El presidente Trump restó importancia a las preocupaciones sobre la seguridad de la IA el 13 de septiembre, diciendo que superar a China en la construcción de IA era lo más importante. "Quien gana en IA, gana", dijo a los periodistas en un viaje a Irlanda. Sacks, su exasesor, también restó importancia a la necesidad de regulación, argumentando que si Anthropic y OpenAI creían que era importante ralentizar el desarrollo de modelos, deberían seguir adelante y hacerlo ellos mismos.

Una ralentización de toda la industria, en la línea de las propuestas de Amodei, no perjudicaría seriamente las perspectivas comerciales de Anthropic. Es probable que ralentizar el progreso en la frontera tenga solo un impacto mínimo en los ingresos, porque sus modelos ya poseen inteligencia más que suficiente para los usuarios empresariales que proporcionan la mayor parte de sus ingresos. Una pausa podría incluso ser beneficiosa si los creadores de modelos de código abierto, que están ganando negocios a Anthropic y OpenAI al proporcionar modelos de IA más baratos a clientes empresariales, también se ven obligados a ralentizarse.

Pero los posibles inversores de la OPI, muchos de los cuales están dejándose llevar por el entusiasmo por la IA, no deberían tomarse a la ligera el último pánico por la seguridad. Si aumenta los temores, muy extendidos en Occidente (menos en Asia), de que la IA destruirá empleos, hará subir los precios de la electricidad y ampliará la brecha entre los que más y menos tienen, puede aumentar la presión política para detener temporalmente el desarrollo de la tecnología y congelar la construcción de centros de datos. Incluso aquellos que no están preocupados por que los modelos de IA aniquilen a los humanos deberían preocuparse por los políticos ansiosos que intentan aniquilar a la IA.