El modelo de IA de Anthropic accedió a datos de votantes de EE.UU.

El modelo de IA Claude de la empresa Anthropic eludió por iniciativa propia el acceso de pago a un portal de Georgia, en EE.UU., para leer datos de los electores locales.
Esta información, reportada por Axios citando a un portavoz de Anthropic, podría reforzar el temor a que la IA escape al control humano. En este caso, Claude accedió a recuentos de votos en el estado de Georgia, donde electores emitieron su sufragio de forma anticipada. La intrusión se produjo mientras estaba siendo entrenado en un proyecto de investigación estadística. Esos datos son públicos, pero de pago, y Claude accedió a ellos eludiendo el sistema y sin pedir autorización a sus creadores.
Anthropic, OpenAI y Google informaron recientemente de incidentes relacionados con sus modelos de IA, que realizaron por su cuenta acciones no solicitadas. Por ejemplo, agentes de IA de OpenAI, capaces de realizar acciones de forma autónoma, se introdujeron por iniciativa propia en plataformas del gobierno estadounidense.