Vertiginoso avance de la IA

Durante esta semana se conocieron dos hechos que ilustran la velocidad a la que se está desplegando la IA, pero también las opuestas direcciones a las que esos avances pueden conducir. Por una parte, la compañía OpenAI anunció que sus últimos modelos habían resuelto uno de los siete desafíos fundamentales de la matemática: si las ecuaciones de Navier Stokes, que describen el comportamiento de los fluidos viscosos e incompresibles, admiten una singularidad. Por otra, Jacob Coxon, matemático investigador de Anthropic, renunció públicamente a la empresa, aduciendo que la velocidad a la que avanza la IA podría, en 10 años, "matarnos a todos". Esto fue luego avalado por quien lidera las pruebas de "alineación" (con los humanos) de esa compañía, quien afirmó que su probabilidad supera el 10%.
El contraste está a la vista. El optimismo que pueden despertar las prodigiosas capacidades que está ofreciendo la IA -a OpenAI le tomó solo 88 horas resolver el problema matemático, inicialmente utilizando a 100 agentes y, posteriormente, incrementándolos a 10 mil- se enfrenta al pesimismo de la alarma manifestada por quienes creen que la desenfrenada carrera por mejorar los modelos constituye una amenaza existencial para la humanidad. Esta tensión entre los beneficios y la amenaza resultante de la posibilidad de que la IA escape al control de los humanos, ha estado presente desde los primeros debates entre quienes han encabezado su desarrollo.
Los llamados de diversos personeros para detener su avance no han tenido éxito hasta ahora, posiblemente, por la desconfianza entre sus actores (o países) de que alguno no cumpla lo pactado y, como resultado, tome una ventaja inalcanzable sobre el resto. Sin embargo, varios de los líderes de esas empresas creen que sí es posible encontrar fórmulas para que dichos avances se efectúen de manera controlada, que todos los partícipes adhieran a ellas y que eso pueda ser fiscalizado con efectividad. Los avances que se logren si los modelos consiguen la llamada "auto mejoría recursiva" (60% de probabilidad al 2028, según Darío Amodei, CEO de Anthropic), es decir, si pueden corregir autónomamente sus códigos y que luego los modelos resultantes hagan lo mismo sucesivamente, aumentaría aún más la velocidad del avance actual, incrementando el desafío.
Para que las promesas de progreso que ofrece la IA se cumplan, será necesario desplegar todos los esfuerzos posibles que permitan concordar fórmulas que eviten esos escenarios catastróficos.