¿Es factible frenar y regular la IA? Expertos advierten desafíos de la coordinación global

La conversación en torno al vertiginoso avance de la inteligencia artificial (IA) ha dado un giro inesperado: algunos de quienes lideran su desarrollo han pedido que este se ralentice.
El fin de semana, Dario Amodei, CEO de Anthropic, llamó a frenar las capacidades de los modelos frente a riesgos como la pérdida de control sobre los sistemas.
Amodei recibió apoyo público de sus pares en OpenAI, Sam Altman, así como de Elon Musk, fundador de xAI.
En medio de ello, la discusión sobre regulación se reactivó. El Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, pidió ayer una "acción urgente" para regular la IA. "Estamos al borde de un cambio irreversible, que nos afecta no solo a nosotros, sino a las generaciones futuras de la humanidad", dijo.
Y en la misma línea, la comisión conjunta de derechos humanos del Parlamento británico urgió ayer al gobierno a legislar para abordar los riesgos de la IA y crear un regulador que supervise sus avances.
Para los expertos, una pregunta que surge ante estas declaraciones es qué significa pisar el freno. Matías Aránguiz, director del Programa de Derecho, Ciencia y Tecnología UC, advierte que "no hay consenso entre los principales actores de qué significa" y que no necesariamente equivale a dejar de mejorar los modelos de IA.
Según cree, la propuesta de Amodei apunta más bien a que "los esfuerzos no estuvieran únicamente en desarrollo tecnológico, sino que además vayan en línea con medidas de seguridad".
Aránguiz añade: "Creo que para Amodei esto no significa parar el avance, sino más bien un desarrollo con controles".
"Lo que yo recojo del llamado del CEO de Anthropic es darnos un minuto para reflexionar y tener una mirada a largo plazo respecto de qué queremos alcanzar y cómo generamos competencias y capacidades de gobernanza", señala Jaime Caiceo, socio líder de Inteligencia Artificial y Datos en Deloitte.
Loreto Bravo, directora del Instituto de Data Science de la U. del Desarrollo, opina: "No creo que las empresas estén considerando disminuir la velocidad (de desarrollo)". A su juicio, lo que hay detrás es que "en este momento es lo políticamente correcto (de decir) porque hay un riesgo, pero no creo que lo vayan a hacer".
Ponerse de acuerdo
Para que eso ocurra, estima Bravo, tanto empresas chinas como las de EE.UU. "tendrían que ponerse de acuerdo".
Y en ese sentido, Caiceo señala que "China podría decir que ellos están con todo bajo control, como corresponde. Y ahí se crea un debate donde cada quien vela por sus propios intereses".
Los expertos coinciden en que avanzar hacia mecanismos de coordinación global y regulación es factible, pero muy complejo.
Aránguiz plantea que uno de los desafíos es que los modelos actuales de IA pueden usarse para actividades variadas, desde escribir un correo electrónico hasta para ciberataques.
"Es como estar regulando al mismo tiempo una juguera, un auto y una central nuclear (...). Al final, el objeto a regular es muy complejo", comenta el académico.
Caiceo considera que la regulación es factible si inicialmente se concentra en elementos específicos que puedan ser supervisados, como auditorías independientes antes del lanzamiento de nuevos modelos o de versiones que incorporen capacidades significativamente superiores.
Flavio Salazar, académico de la U. de Chile y exministro de Ciencia, concuerda y compara la situación con la investigación biomédica: "Tratar una enfermedad no significa crear un medicamento y distribuirlo en el mercado. Tiene que haber estudios regulados, comités de ética y evaluaciones", explica. "Con la IA hay poco de eso actualmente", agrega.
Según Salazar, algunas áreas críticas que podrían ser reguladas con mayor urgencia a nivel global son el uso de datos personales y el control autónomo de armamento.
Para Aránguiz, una alternativa sería avanzar hacia sistemas que atribuyan más responsabilidad a las compañías por los daños provocados por sus tecnologías.
Bravo dice que "la regulación no es suficiente". Según cree, las reglas deben ir acompañadas de inversión en investigación y en herramientas capaces de proteger frente a usos maliciosos de la IA.
"Lo que se quiere es poder defendernos de quienes la usan mal y a quienes hacen eso, no les importa la regulación", opina.
MárketingSobre si existe un componente de buscar la atención de las personas detrás de los llamados de las compañías de IA a establecer controles, Aránguiz señala: "Yo creo que es puro márketing". Él duda de que las empresas estén dispuestas a aceptar restricciones que puedan hacerlas perder terreno frente a sus competidores, particularmente en China. Por su parte, Salazar opina que "podría ser una estrategia de márketing, pero eso no invalida la preocupación que deben tener los gobiernos".