Inteligencia artificial y libertad

Hay muchas razones para preferir una economía de mercado. Tal vez las más importantes sean dos. La primera, que la competencia evita o atenúa los abusos monopolistas. La segunda, las incontables interacciones libres que se dan en el mercado que generan conocimientos a los que nunca podrían acceder, solos, los funcionaros que administran un Estado. La creación de riqueza que entonces se da.
De los ejemplos que da Hayek de este fenómeno epistemológico, el más notable es el del lenguaje mismo, producto de interacciones espontáneas a través de milenios. ¿Qué academia podría haberlo diseñado? Pasa lo mismo con costumbres que tomamos por sentado y que definen nuestra identidad sin que nadie en particular las diseñe. Pasa lo mismo con el avance de la ciencia y de la tecnología.
Ahora bien, una terrible duda. ¿Esta justificación epistemológica del mercado aguantará las arremetidas de la inteligencia artificial? ¿No podrá esta suplantar esas infinitas interacciones? Y en vez de lo que Hayek llama el proceso de descubrimiento que se va dando en el mercado, ¿no podrá la IA descubrir todo en un instante?
¿Llegará entonces la hora de un Cybersyn 2030?
Recordemos que Cybersyn fue ese proyecto de la UP, de 1971, en que se intentó suplantar el mercado con un computador conectado por télex a las fábricas y distribuidoras, para así juntar la oferta con la demanda. Ese rudimentario experimento hoy parece cómico. Pero prefigura a la IA, y el susto que algunos le tenían por lo que se veía como su potencial totalitario, puede que se justifique ahora ante el riesgo de que una eventualmente omnipotente IA fuera utilizada por un dictador, una secta o un sobresaliente robot.
Por eso, por mucho que sus justificaciones epistemológicas estén debilitadas, son ahora más que nunca importantes los resguardos que nos brindan el mercado y la democracia liberal, concebidos para que nadie -¿o nada?- tenga un exceso de poder. Urge fortalecerlos. Sin ellos, no lograremos evitar peligros que ya se perciben, para qué hablar de los que ni nos imaginamos.
Un primer peligro es que los mismos dueños de las empresas de IA adquieran demasiado poder. Por ejemplo, que subordinen a los gobiernos, sobornándolos con sus inmensos excedentes, o controlándolos con la misma tecnología que ya ha invadido dependencias del Estado en Australia.
Un segundo peligro, que un país, o el país equivocado, adquiera tanta ascendencia tecnológica con la IA que pueda aplastar a cualquier otro. Se está realizando en Estados Unidos con la IA una suerte de proyecto Manhattan, ese que buscó darle monopolio de la bomba atómica. Aquí el competidor es, claro, China.
Un tercer peligro: que con la IA se potencien bandas criminales, o individuos malignos como los villanos con que combate James Bond, o grupos terroristas librando guerras asimétricas: ya los hutíes en el Yemen están equipando sus misiles con IA.
Un cuarto peligro, que la IA misma, o uno de sus agentes, adquiera un poder equivalente al de un Estado, o que varios agentes compitan peligrosamente para adquirirlo.
Nunca ha sido más importante, entonces, luchar por la alicaída cooperación internacional y por los resguardos institucionales con que cuentan las democracias liberales para frenar los excesos de poder: contrapesos, imperio de la ley, y las regulaciones que se necesiten para mantenernos libres.
Dario Amodei, el controlador de Anthropic, pide, en un contundente ensayo, que haya más regulación. Incluso, que haya reguladores incrustados en las empresas, con libertad para denunciar desvaríos éticos. También, que haya acuerdos que ralenticen el desarrollo de la IA, aun cuando signifiquen colusión. Dice que un año de ralentización valdría oro para fortalecer la seguridad.
Todos queremos los gigantescos beneficios que la IA nos ofrece. Ralentizar su avance por un año es un sacrificio tolerable.