Europa obliga a transparentar la IA: estos son los contenidos que deberán identificarse

A partir del 2 de agosto, la Unión Europea comenzará a aplicar nuevas obligaciones de su Ley de Inteligencia Artificial, entre ellas el etiquetado de imágenes generadas con IA que puedan llevar a confusión sobre su veracidad.
"Las obligaciones de transparencia ayudarán a las personas a reconocer cuándo interactúan con la IA o cuándo el contenido ha sido generado o alterado por la IA, reduciendo el riesgo de engaño y manipulación", dijo la Comisión Europea (CE) en el comunicado donde se dieron a conocer las directrices de la norma.
Estas afectan tanto a los proveedores de estos sistemas (ChatGPT, Gemini o Claude por ejemplo) como a empresas que los utilizan.
En relación con los chatbots, la CE aclaró que la exigencia va dirigida a los proveedores de asistentes de voz o de chats como los de servicios públicos o los de atención al cliente. Ellos deben identificar en el primer mensaje si el usuario está interactuando con una máquina.
La norma también obliga a incorporar una marca de agua a los textos, fotos, videos y audios que se hayan generado con IA. La normativa habla de una marca visible (que el usuario pueda ver) y otra que pueda ser leída por sistemas computacionales.
Esta obligación no afecta a todo el contenido generado artificialmente, sino a aquel que represente a personas, objetos, lugares o situaciones de un modo que pueda parecer auténtico. En esta categoría entran los llamados "deepfakes" de imágenes y videos, pero también el uso de voz sintética que puede inducir a engaños al parecerse a la de una persona real.
Así, la normativa deja fuera a ilustraciones y otro contenido de ficción cuya naturaleza es claramente artificial.
La norma también obliga a informar a los ciudadanos cuando se les esté analizando con sistemas de reconocimiento de emociones o de categorización biométrica (que analizan rasgos físicos o de comportamiento para clasificar a las personas en categorías específicas). La excepción son aquellos sistemas autorizados por la ley para detectar, prevenir e investigar delitos.
También deberán identificarse los textos sobre asuntos de interés público generados por IA que no hayan pasado por revisión humana o control editorial.
El incumplimiento por parte de las empresas proveedoras puede significar multas de hasta 15 millones de euros o el 3% de la facturación mundial.
La normativa "no busca frenar la IA ni asumir que todo lo sintético es malo, busca devolverle al usuario algo que se está perdiendo: la posibilidad de saber qué está mirando. Para las marcas y los medios, eso convierte a la autenticidad -la fuente humana verificable, el dato propio, la experiencia real- en un diferenciador competitivo, no solo en un principio ético", dice Ariel Jeria, gerente de la agencia Rompecabeza.
En Chile existe un Proyecto de Ley que regula la obligación de establecer un sello claro y rastreable del contenido generado con IA, que está en su primer trámite constitucional.
"En materia de tecnología no es bueno prohibir nada, pero es bueno regular todo y, siguiendo las prácticas europeas, creo que es necesario advertir al público cuándo está interactuando con IA", dice el senador Matías Walker, uno de los autores.