Atajos mentales

La inteligencia artificial generativa como el ChatGPT es una herramienta fenomenal, pero con una condición: es fenomenal para aquellos para los que efectivamente puede ser una herramienta.

Concebir a la tecnología como una "herramienta" es de sentido común, en la medida que solemos entenderla como un instrumento para nuestros fines. Un martillo es para clavar un clavo, una lapicera es para escribir, un auto es para moverse. La neutralidad de la tecnología es la forma más intuitiva de verla, es decir, la forma a través de la cual se dice que las herramientas no son buenas ni malas en sí, solo las personas y sus acciones lo son. Pero, teóricamente, esto es discutible. La pregunta más interesante es en qué medida los artefactos, dispositivos o sistemas tecnológicos en los cuales estamos inmersos como peces en el agua nos promueven o conducen a fines que consideramos legítimos; en otras palabras, cómo nos co-constituyen.

Últimamente el tema del uso del ChatGPT en la educación universitaria estuvo en la opinión pública por el caso de la facultad de psicología. La cuestión es obvia: como buen homo economicus, si un estudiante que quiere alcanzar un fin (pasar un parcial con la nota más alta posible), y tiene una herramienta que lo ayuda a alcanzarlo y no hay ninguna forma de controlar su uso, entonces, la va a usar. Me atrevo a decir que solo en aquellos raros casos que los estudiantes ven a la educación como un fin en sí mismo no usarían la herramienta disponible que les da las respuestas instantáneamente sin ellos tener que esforzarse y pensar.

Por supuesto que hay bastante de vocacional, pero lo cierto es que en gran medida la educación universitaria es un medio para un fin, el de tener el prestigio de firmar como "Licenciado" o "Licenciada" y conseguir trabajo para ganar dinero. Es un tema de eficiencia, y el ChatGPT es muy eficiente; hace que el leer un texto complejo, memorizar, analizar, relacionar, etc., sea superfluo, comparativamente una pérdida de tiempo.

El crítico social Nicholas Carr escribió hace casi dos décadas un texto muy discutido en el que se preguntaba si Google hacía a las personas más estúpidas ("Is Google Making Us Stupid?), basado en cómo el delegarle cosas nos lleva a perder habilidades como la lectura atenta o la orientación, por ejemplo. Carr hace poco sacó un ensayo corto en el que sigue esta línea de análisis. Critica la automatización de las actividades humanas y hace una distinción interesante entre las consecuencias que tiene la automatización para personas expertas, es decir, que tienen incorporados los matices de una disciplina a través del estudio y el esfuerzo, contra los neófitos.

Cuando uno es experto, la automatización es una herramienta genial para ganar tiempo y, en el caso de ChatGPT, para generar ideas. Esto se debe a que uno ya pasó por los años de formación y pensamiento que lleva dominar un área, por lo que puede discernir el contexto y matices, lo útil de las payadas y, además, darle un sentido propio. Hacerle buenas preguntas a ChatGPT requiere conocer en profundidad de lo que se está preguntando, algo que solo se obtiene luego de que se domina un área. Los neófitos (como ser estudiantes de licenciatura), todavía no conocen en profundidad ni tienen la habilidad de la disciplina incorporada (literalmente en el cuerpo, que es algo que se gana con el esfuerzo de años) y por lo tanto no tienen el criterio para juzgar ni para darle un sentido propio a lo que escupe el sistema.

Por ejemplo, no suelen darse cuenta de que lo que da el ChatGPT tiene una estructura de enunciados y del texto que en general es muy anglosajona, que revela así su origen.

También hay algo más profundo en esta discusión. El sociólogo y filósofo francés Jacques Ellul fue un crítico de este fenómeno de la eficiencia, señalándolo como el valor supremo de una modernidad que identifica el progreso con el avance tecnológico. Es este el que determina los fines a los que apuntar. En la medida que todo debe ser eficiente, el medio o la he-rramienta, se transforma en fin. ChatGPT es extremadamente eficiente ya que en segundos te resume algo o te produce un texto o te resuelve un problema. Pero ese texto o solución son estadísticos, en el sentido de que se genera de acuerdo a la mayor probabilidad de que una palabra siga a otra de la inagotable base de datos que es internet. Hacer esto consiste en delegar la capacidad de pensar a una especie de promedio humano abstracto. Los estudiantes y las personas en general que hacemos esto nos hacemos trampa al solitario, ya que permitimos que el promedio tome nuestro lugar, y como consecuencia, nos reducimos. Por eso es que Marshall McLuhan escribió que "el hombre se convierte en el órgano sexual del mundo de las máquinas".

Es difícil evitar que los estudiantes usen inteligencia artificial, y creo que de hecho deben usarla. Yo soy de los que la apruebo y estimulo el uso siempre con algunos requerimientos explicativos sobre cómo la usaron. Ahí el desafío es encontrar ideas pedagógicas para balancear la información y habilidades que se quieren transmitir con el uso instrumental del ChatGPT, o la IA que sea. Es encontrar el balance entre lo eficiente y lo personal, que permita a un estudiante ir incorporando los conocimientos y técnicas de una disciplina. Es darnos cuenta, también, que, como escribieron pensadores como Bruno Latour y antes Ortega y Gasset, siempre hemos sido híbridos; ser humanos implica ser técnicos. En otras palabras, no existe una naturaleza humana más allá de la técnica y lo que podemos hacer con nuestro pulgar oponible. También hay que recordar que hasta la escritura fue criticada porque atrofiaba la memoria. Hoy en día, creo que es necesario poder transmitirle al estudiante la necesidad de un cuidado de ese híbrido que todos somos (de hecho, luego de considerar varios títulos para esta columna, me decidí por uno que me sugirió ChatGPT).