Si sos ingeniero, esta carta es para vos

Queridos ingenieros, esta es una carta para ustedes. Tantas veces los he leído, entrevistado y escuchado desde que empecé en este trabajo del periodismo. Más en el último tiempo, hablando sobre todo de inteligencia artificial, y sobre eso quiero decirles algunas cosas. Espero no se enojen porque no tengo otra intención que compartir con ustedes ciertas inquietudes.

Es necesario que la conversación sobre IA sea una conversación entre muchas disciplinas y que esa conversación se dé en pie de igualdad. No es solo la ingeniería la que tiene que decidir el futuro de esta tecnología que casi nadie duda que está cambiando el mundo.

¿Qué quiero decir con esto? Cuando ustedes entrenan un modelo de lenguaje y dicen que comprende o razona, están usando palabras que tienen orígenes muy largos. Comprender es algo sobre lo que la filosofía lleva discutiendo 25 siglos, la lingüística, 100 años, la fenomenología un siglo, las ciencias cognitivas medio siglo. Cuando se mide, por ejemplo, comprensión lectora y se concluye que el modelo comprende, se está haciendo, sin decirlo, la apuesta filosófica de que comprender se reduce a producir outputs adecuados a inputs. Esa apuesta puede ser correcta o equivocada, pero no es una decisión técnica. Es una decisión filosófica disfrazada de definición operativa. El tema no es cuando la usan para trabajar, eso es legítimo, sino que el problema aparece cuando esa definición sale del laboratorio.

Lo mismo pasa con otras palabras que están moviendo miles de millones de dólares como inteligencia, razonamiento, creatividad, agencia, alineación, valores y un larguísimo etcétera. Cada una de esas palabras es un campo completo, con teorías rivales y problemas no resueltos. Cuando esas palabras circulan en el debate público como si su significado fuera transparente, lo que está pasando es lo que podemos definir como una inflación conceptual. La inflación conceptual es lo que pasa cuando una palabra se estira para abarcar mucho más de lo que originalmente significaba, y se estira tanto hasta terminar significando casi cualquier cosa, mientras pierde precisión gana en fuerza retórica.

Hay un texto viejo de los 90 escrito por Philip Agre, investigador de IA en la Universidad de California, en el que dice algo interesante: que el campo de la IA está constituido de tal manera que sus practicantes honestamente no pueden imaginar qué influencia podrían tener la filosofía, la historia, la teoría literaria sobre su trabajo. No es un déficit individual que se repare con una materia electiva. Es estructural. Una formación entrenada para operacionalizar todo lo que toca queda, sin decirlo, incapacitada para ver lo que no se deja operacionalizar. Esto, llevado al espacio público, tiene un efecto concreto y es que cuando los ingenieros son los únicos que hablan, las preguntas que no se dejan operacionalizar simplemente no se hacen. No porque ustedes las censuren, sino porque no aparecen en su radar, igual que en el mío no aparecen problemas de optimización que para ustedes son obvios.

Les dejo algunas. ¿Qué tipo de vida vale la pena vivir, y qué tareas humanas conviene preservar aunque una máquina pueda hacerlas mejor? ¿A quién le debemos qué? ¿Le debemos algo a la mujer que en Kenia etiqueta contenido traumático, al niño en el Congo que extrae el cobalto, al poeta muerto cuya obra está en el corpus de entrenamiento? ¿Qué cuenta como progreso, y quién tiene autoridad para decirlo? ¿Qué le pasa a un chico que crece teniendo a un chatbot como confidente principal? ¿Qué tipo de amor o amistad es posible cuando una de las partes simula y la otra no lo sabe? ¿Es legítimo que unas pocas empresas privadas decidan, por defecto y sin consulta, qué visión del mundo queda incorporada en los modelos que usan miles de millones de personas?¿Hay un nivel de consumo de energía y agua que vuelva éticamente indefendible una tecnología, por más útil que sea?

La seguimos.