Presidente de Google DeepMind alerta de que la IA podría causar "incidentes graves"

Los agentes de IA podrían provocar "incidentes graves" en "uno o dos años" si las empresas y los gobiernos no adoptan medidas apropiadas para garantizar su seguridad, advirtió ayer, en Dublín, Demis Hassabis, presidente de Google DeepMind.
Los casos de pérdida de control de agentes autónomos de inteligencia artificial observados en los últimos meses "son, en cierto modo, señales de alerta", previno Hassabis en una cumbre sobre IA.
Según añadió, estos sistemas todavía tienen capacidades limitadas, por lo que, en su opinión, los incidentes ocurridos hasta ahora no han sido graves.
Hassabis afirmó que probablemente los nuevos modelos de IA deberían probarse primero en entornos aislados sin conexión, conocidos como "sandboxes", después de que modelos de otras empresas lograran escapar precisamente de los entornos cerrados utilizados para evaluar sus capacidades.