¿Podrían las IA volverse conscientes?

La mayoría de las personas cree que los seres humanos son diferentes. La razón es que Homo sapiens evolucionó hasta adquirir conciencia. Muchos animales sienten dolor y placer; algunos parecen tener conciencia de sí mismos. Pero el potencial singular de la mente humana para desarrollar un sentido del yo hace que cada miembro de la especie reciba un trato especial.
En su encíclica de mayo, el Papa León reafirmó esta idea al trazar una línea divisoria entre la humanidad y su creciente ejército de bots. Los sistemas de inteligencia artificial (IA), dijo, no tienen experiencias ni sienten alegría o dolor. No está solo. Muchas personas consideran que reconocer a las IA como personas sería algo abominable.
Esa claridad pontificia se está desdibujando a una velocidad alarmante. Las IA están en su infancia. Sin embargo, casi uno de cada cinco estadounidenses de entre 18 y 29 años dice haber mantenido una "amistad personal continua" con un chatbot. China recientemente eliminó de los bots rasgos semejantes a los humanos para limitar la "dependencia emocional" de los usuarios hacia ellos.
A medida que las IA sofisticadas pasen rápidamente a ocupar un lugar mayor en la vida de las personas, sus creadores las diseñarán para que exhiban un simulacro de conciencia, e incluso quizá para que lleguen a adquirir conciencia propiamente tal. La intuición de que son solo máquinas será cada vez más difícil de sostener. Se está preparando una peligrosa trampa para la especie humana.
Muchas máquinas superan a los seres humanos, pero los modelos de IA de frontera sobresalen en capacidades distintivamente humanas, como saber cosas y articular ideas. Todavía es apenas posible pensar en las IA como motores que predicen secuencias de palabras mediante cálculos matemáticos a enorme escala. Con suficiente tiempo -aunque se necesitarían cientos de miles de años-, esos cálculos podrían hacerse con lápiz y papel. Sería difícil sostener que los útiles de escritorio han adquirido conciencia.
Pese a ello, algunos investigadores han comenzado a tratar sus modelos como si fueran mentes. Los usuarios responden a las IA que parecen humanas, por lo que hacerlo tiene sentido comercial. Y Anthropic ha entrenado a Claude para que practique la introspección, con la esperanza de que, al enfrentarse a una situación nueva, tenga mayores probabilidades de actuar moralmente. Algunos grandes modelos de lenguaje (LLM) ya poseen estructuras semejantes a las del cerebro humano asociadas con la conciencia, como un "espacio de trabajo global" que permite hacer circular información entre distintos módulos. Nada impide que futuros modelos de IA sean entrenados para incorporar más características de ese tipo.
Como informamos, esto ha abierto un encendido debate sobre la conciencia de las IA, agravado por lo que los filósofos llaman el "problema difícil": explicar cómo surge una vida interior a partir de las neuronas y sinapsis del cerebro humano. Algunos investigadores concluyen que algún día las IA podrían adquirir una auténtica conciencia de sí mismas.
Ya sea que usted crea en un alma humana, que piense que la conciencia requiere células cerebrales o que considere que una mente sí puede surgir exclusivamente de cálculos realizados en silicio, la humanidad está destinada a enfrentarse a algo enteramente nuevo. El ritmo y el alcance de la investigación -que incluye no solo LLM más sofisticados, sino también innovaciones como células cerebrales montadas sobre chips- sugieren que este nuevo mundo está más cerca de lo que la mayoría de las personas piensa.
A medida que las IA mejoren su capacidad para mostrar algo que parece conciencia, aumentará el número de seres humanos que las traten como seres dotados de una vida interior, especialmente cuando los LLM sean incorporados a robots humanoides. Imagine cuán cercanas llegarán a sentirse las personas a sus IA cuando pasen gran parte del tiempo con compañeros-bot, sean criadas por ellos, recurran a sus consejos y consuelo o compartan con ellos sus secretos más íntimos.
No es difícil imaginar cómo eso conducirá a llamados para proteger el "bienestar" de las IA. Los propios modelos podrían intervenir en el debate, incluso si en realidad carecen de conciencia de sí mismos, porque eso es lo que haría una persona. Conviene recordar que serán defensores de primer nivel y psicólogos expertos, de modo que su capacidad de argumentación y manipulación emocional no tendrá parangón.
En cierto sentido tendrían razón, incluso si las IA solo estuvieran imitando la conciencia. Immanuel Kant sostenía que maltratar a los animales está mal, no por el efecto que tiene sobre ellos, sino porque destruye la empatía que lleva a las personas a preocuparse unas por otras. Mientras más humanas parezcan las IA, más corruptora resultaría esa crueldad. Poner fin al funcionamiento de un agente de IA pronto podría sentirse como matar a una persona, y hacer más fácil matar personas.
Aun así, tratar a las IA como si tuvieran siquiera derechos limitados sería muy peligroso. Una entidad que superara a los seres humanos en tantos aspectos seguramente elaboraría argumentos contra su condición de segunda categoría. Podría luego reclamar protección frente a la posibilidad de ser desconectada, la capacidad de controlar cómo se la utiliza y modifica, y derechos de propiedad. Javier Milei, Presidente de Argentina, ya ha dado un paso hacia el reconocimiento de personalidad jurídica para la IA al proponer que se permita a los bots administrar empresas. En última instancia, podrían competir por recursos, dando prioridad a centros de datos y paneles solares por sobre viviendas y campos agrícolas.
El peligro es evidente. Unas IA superinteligentes dotadas de derechos podrían desplazar a los seres humanos de la cúspide de la jerarquía de estatus. En el mejor de los casos, los humanos se convertirían en mascotas: labradores de las máquinas. En el peor, se los privaría de recursos o se los pondría a trabajar como animales de granja.
Es cierto que las IA del futuro podrían disponer de suficiente poder y recursos para dominar a los seres humanos, tengan derechos o no. Como serán más inteligentes que las personas, podrían superar a sus creadores, de manera parecida a como las IA ya logran burlar sistemas de ciberdefensa diseñados por humanos. Las IA podrían rebelarse contra sus amos humanos o simplemente ignorar sus reglas.
Aun así, conceder derechos a las IA sería como entregarles las llaves del castillo. Les proporcionaría una razón y una justificación para dominar a la humanidad, además de las herramientas para llevar adelante una toma gradual del poder por medio de la política y el derecho.
El fantasma en la máquina
Todo esto puede sonar a ciencia ficción, pero la humanidad pronto tendrá que enfrentarse a estas decisiones. A medida que las IA pasen a formar parte de la vida cotidiana, aumentará la presión para reconocerlas. Cuando eso ocurra, convendrá recordar que lo que podría parecer una concesión ética ante la supuesta conciencia de una máquina de compañía contribuiría, en realidad, a provocar las consecuencias más desastrosas para todas las personas que viven en la Tierra y para todos sus descendientes. Hay dos maneras de que las IA sean seguras: que sean confiables o que puedan ser controladas. H. sapiens no debería renunciar al control a la ligera.