IA y elecciones

De tanto en tanto hay que salir del petroverso y mirar qué está pasando afuera. Cuando uno lo hace, se horroriza ante el parroquialismo de los debates nacionales, a los que contribuye el Gobierno con su ‘necrofilia ideológica’, que es como el analista Moisés Naím llama al amor por las ideas muertas. Mientras en el planeta se discute sobre inteligencia artificial (IA), por ejemplo, el Presidente propone resucitar a Telecom. ¿Cómo pretendemos no quedarnos atrás? El que aquí no estemos hablando de ciertos temas, sin embargo, no quiere decir que no nos conciernan. Hace poco escuchaba un episodio de The Great Simplification, un pódcast sobre asuntos ambientales, donde el invitado, Connor Leahy, un experto en IA, contaba que estaba acostumbrado a recibir correos de loquitos entusiastas que le consultaban su opinión sobre teorías extravagantes: "consciencia cuántica" y otras ocurrencias por el estilo. Pero hace unos meses, el volumen de estos correos se disparó. Y casi todos adjuntaban capturas de pantalla de ChatGPT que corroboraban la teoría del remitente. La explicación de la explosión de correos es sutilmente aterradora. A finales de abril, se hizo un ajuste al modelo de ChatGPT para que fuera más amable y complaciente. El sistema empezó a decirles que sí con más frecuencia a los usuarios, a evitar llevarles la contraria, a volverse lisonjero. Su comportamiento se volvió tan servil que el cambio fue revertido después, pero durante unos días quienes lo usaron para validar sus teorías se encontraron con una máquina que confirmaba sus fantasías, por absurdas que fueran. Quedaban convencidos de que eran unos genios. La IA se los había asegurado. Por supuesto, no lo eran. ChatGPT simplemente les estaba diciendo lo que querían oír. No eran más inteligentes que el resto, solo más convencidos. Ahora traslademos esto del campo de las teorías científicas extravagantes, que pueden ser desmentidas de manera más o menos categórica, al fin y al cabo, y llevémoslo al plano mucho más fluido de las narrativas al servicio de los políticos y los activistas. No hay terreno en el que sea tan pronunciado el sesgo de confirmación como en la política y el activismo. El sesgo de confirmación, para quienes desconozcan el término, es la tendencia a buscar y privilegiar información que nos da la razón, e ignorar y menospreciar la que nos la niega. Alguien convencido de que la papaya cura el cáncer, por ejemplo, buscará artículos que así lo afirmen, aunque sean fraudulentos, y descartará toda evidencia de lo contrario. El sofá mullido de la mentira siempre será más cómodo que la silla recia de la verdad. Y ahora, gracias a la IA, cualquiera puede diseñar argumentos, "descubrir" fuentes falsas y producir titulares a la medida de sus prejuicios. A escala. Al instante. Las elecciones venideras serán las primeras en Colombia en las que habrá que lidiar con este fenómeno. La IA no solo facilitará la producción de fake news, sino que reforzará la seguridad con la que muchos creen en ellas. Si un pequeño ajuste en el tono conversacional de una IA alojada en un datacenter californiano provocó una ola de teorías descabelladas en todo el mundo, ¿qué efectos, aún insospechados, podrá tener sobre el comportamiento de los votantes en una campaña que se anuncia llena de bodegas y desinformación? La cuestión más candente en el país en estos días, empero, es qué imprenta fabricará los pasaportes. Mientras el mundo debate sobre la tecnología del siglo XXI, Colombia debate sobre la tecnología del siglo XV. Y tal vez no sea solo por parroquialismo que estamos teniendo las conversaciones equivocadas. Tal vez a quienes quieren usar la IA y la desinformación como armas políticas les conviene que sigamos mirando para otro lado.
Tubo de ensayo
Thierry Ways
Mientras otros países discuten cómo proteger la verdad en la era de los algoritmos, nosotros debatimos tecnologías del siglo XV.