ChatGPT y Roblox son el primer chatbot y videojuego bajo máxima vigilancia en la UE

ChatGPT deberá cumplir normas de seguridad más estrictas en la Unión Europea (UE) al ser catalogado desde ayer como "motor de búsqueda de gran tamaño", lo que sucede por primera vez con un chatbot de IA.
No es la única plataforma que se suma a un escrutinio mayor: Reddit -red social que funciona como un gran foro de discusión- y el popular videojuego Roblox también fueron catalogados el lunes como "plataformas de muy gran tamaño" bajo la Ley de Servicios Digitales (DSA).
En el caso de Roblox, es primera vez que un videojuego es catalogado de esta forma.
Este nuevo estatus aplica cuando una plataforma supera los 45 millones de usuarios en el bloque de 27 países que conforman la UE. Según las últimas estadísticas, ChatGPT registró 159,1 millones de usuarios mensuales en la UE; Reddit, 57,2 millones, y Roblox, 48 millones.
"ChatGPT, Reddit y Roblox deberán someterse ahora a un estándar más alto de escrutinio y responsabilidad en la Unión Europea, en línea con su gran impacto en nuestros ciudadanos y en la sociedad", dijo ayer en un comunicado Henna Virkkunen, responsable de Tecnología de la UE.
La DSA entró en vigor en 2022 y es la herramienta con la que la UE regula las grandes plataformas de internet. Desde 2023 ha ido ampliando su lista de "muy grandes" al punto que con estas tres nuevas plataformas ya son 28 las que están en este régimen, entre ellas TikTok, X, LinkedIn, Instagram y Snapchat; tiendas en línea como Amazon, AliExpress y Shein; algunas páginas pornográficas, y buscadores como Google.
Además, se han abierto más de una docena de investigaciones formales y se han aplicado sanciones por incumplimientos: 550 millones de euros (unos $594 mil millones) a AliExpress, 200 millones de euros ($216 mil millones) a Temu y 120 millones de euros ($129 mil millones) a X.
Además, mantiene abiertas varias investigaciones, una contra X, por sus sistemas de recomendación y por la integración de su IA Grok; otra por diseño adictivo contra TikTok, Shein y Meta (empresa de Instagram y Facebook); además de una contra varios sitios de pornografía por la exposición de menores a ese contenido, y contra Meta por permitir el acceso de menores de 13 años a sus redes sociales.
Esta categoría somete a las plataformas a mayores obligaciones, como evaluar y mitigar anualmente los riesgos sistémicos de sus algoritmos que cubren áreas como la difusión de contenido ilegal, impacto en derechos fundamentales, efectos sobre el discurso cívico, los procesos electorales y la seguridad pública, además de la violencia de género, salud pública, protección de menores y bienestar físico y mental.
Además, deben someterse a auditorías independientes, dar acceso a investigadores externos y activar mecanismos de respuesta ante crisis. A esto se suman la prohibición de dirigir publicidad a menores o basada en datos sensibles y la prohibición de "patrones oscuros" que induzcan a error en el diseño de la interfaz. Estos últimos son formas de diseñar una página web, aplicación o interfaz que empujan, engañan o manipulan al usuario para que tome una decisión que probablemente no habría tomado de manera libre e informada.
Las tres plataformas que acaban de ingresar a esta categoría tienen cuatro meses para cumplir con las nuevas exigencias.
A Hugo Durney, académico de la U. Tecnológica Metropolitana, le "impresiona cómo la naturaleza tan nueva, compleja y cambiante de las nuevas plataformas deja cortos a los marcos legales y conceptuales de países y regiones del mundo, hasta el punto que la UE tuvo que reducir, mientras se entiende, la clasificación de ChatGPT a la categoría de 'buscador'".
La UE no es la única que ha dicho algo al respecto. En EE.UU., tanto Roblox como ChatGPT afrontan problemas legales: Roblox, por cuestiones relacionadas con la explotación infantil, y el chatbot de OpenAI, por instigar y contribuir a la planificación de tiroteos, crear adicción en menores de edad y debilitar el pensamiento crítico de sus usuarios.
Geopolítica
Sergio Quijada, académico de la Facultad de Ingeniería y Ciencias Aplicadas de la U. de los Andes, cree que esto se enmarca en la "geopolítica de la inteligencia artificial donde hay tres grandes actores principales y en pugna: EE.UU., la UE y China".
Para Quijada, cada uno de ellos defiende sus propios intereses usando distintas herramientas. La UE emplea estas leyes de servicios digitales y "encasilla a ChatGPT como un buscador, aunque es más bien un proveedor de información inferencial que, ante la misma pregunta, te da distintos resultados según el contexto", aclara.
En tanto, EE.UU. está restringiendo la llegada de plataformas de IA chinas aduciendo problemas de seguridad nacional. Y China opta por la censura, "al punto de que ChatGPT no ha hecho ni siquiera intentos de llegar allí", dice Quijada.
La DSA se ha convertido en uno de los frentes más tensos entre EE.UU. y Europa. La administración Trump sostiene que la DSA y la Ley de Mercados Digitales (DMA) discriminan sistemáticamente contra las tecnológicas estadounidenses, y ha amenazado repetidamente con aranceles y restricciones a empresas europeas como represalia.
Europa, en tanto, dice que las normas se aplican "sin importar la jurisdicción o el propietario de la empresa" y que ya ha sancionado a plataformas chinas como TikTok o AliExpress.