La inteligencia artificial pone a prueba las nuevas reglas electorales de Brasil

"Eso que están viendo aquí no soy yo. Es una simulación de mi imagen y mi voz hecha con inteligencia artificial". Así arranca el video del expresidente brasileño Jair Bolsonaro que el Partido Liberal (PL) difundió el 25 de julio para respaldar la candidatura presidencial de su hijo Flávio, y que ahora es investigado por el Tribunal Superior Electoral (TSE). El caso reabre una discusión que Brasil arrastra hace años: cómo controlar el impacto de la desinformación -ahora potenciada por la IA- en un año electoral clave.
En el corto video emitido en la convención del PL, el Bolsonaro virtual respalda a su hijo y asegura que está "preso y callado" debido a "una decisión arbitraria e injusta". El líder derechista tiene prohibido expresarse públicamente como parte de su condena de 27 años por intentar un golpe de Estado al final de su mandato.
El video fue inmediatamente reprochado por el Partido de los Trabajadores (PT) del Presidente Luiz Inácio Lula da Silva, en una demanda que actualmente analiza la justicia electoral.
Una resolución del TSE sobre propaganda electoral prohíbe el uso de contenido sintético producido o manipulado digitalmente para crear o modificar la imagen o la voz de una persona con el objetivo de favorecer o perjudicar a una candidatura o partido. Según el oficialismo, el PL violó esa norma, aunque la formación de derecha se defiende al plantear que el contenido fue rotulado como IA, tal como exige la norma.
Múltiples casos de videos falsos
"Parece real. Si uno no presta atención, puede pensar que realmente es Bolsonaro hablando. La voz y la forma de hablar son muy parecidas", dice Marcos Almeida, taxista de 42 años de Fortaleza, después de ver el polémico video del Bolsonaro virtual.
El de la convención del PL es el caso que ha tenido más repercusión en los medios brasileños, pero no el único. En marzo, al analizar un recurso relacionado con las elecciones municipales de Fortaleza de 2024, el TSE condenó por unanimidad el uso de deepfakes y adoptó una interpretación considerada rigurosa.
El caso involucraba videos producidos con inteligencia artificial en los que el expresidente de EE.UU. Barack Obama, la cantante Taylor Swift, el actor Tom Cruise y el futbolista Cristiano Ronaldo aparecían declarando su apoyo al entonces candidato del PT a la alcaldía de Fortaleza y hoy alcalde, Evandro Leitão. Los ministros concluyeron que el carácter ficticio del contenido era irrelevante para determinar la existencia de la irregularidad.
El de la convención del PL, ni siquiera es el único video protagonizado por un Bolsonaro falso que ronda la web en el país. "El Mercurio" encontró al menos una decena de videos en redes sociales en que un expresidente virtual llama a votar por su hijo. Incluso hay unos en que el Bolsonaro de IA hace lo contrario: "Les pido a todos que no pierdan su tiempo en octubre votando por mi hijo", dice en uno de ellos.
Rafael Cardoso Sampaio, profesor de la Universidad Federal de Paraná y especialista en democracia digital, plantea que el efecto de este tipo de deepfakes y de la desinformación en general en las elecciones puede ser masivo, "no en el sentido de alterar directamente un voto (...) sino más bien en generar la sensación de que todo puede ser mentira, de que todo puede ser IA".
El desafío que plantea la IA para las elecciones no se limita a los contenidos falsos que circulan en las redes. A la difusión de informaciones falsas en redes -que Brasil ya enfrentó en las elecciones de 2018 y 2022- se sumó este año un desafío adicional con la masificación de aplicaciones de IA como ChatGPT, Grok o Claude, que ya son usadas por los brasileños para decidir sobre política. De hecho, el 62,9% de los votantes consideran utilizar la IA para investigar sobre los candidatos presidenciales, según una encuesta de Projet Brief, divulgada por el medio Correio Braziliense.
En marzo el TSE aprobó una resolución que prohíbe que asistentes virtuales o sistemas de IA recomienden candidatos, expresen preferencias políticas o prioricen postulantes en sus respuestas a usuarios durante el proceso electoral.
El límite de la legislación
Dora Kaufman, experta en los impactos sociales de la IA y miembro del Centro Brasileño de Relaciones Internacionales, valora el esfuerzo del TSE de enfrentar las posibles amenazas generadas por la desinformación y la IA en las elecciones, pero advierte que "en la práctica no me parece suficiente". "La 'marca de agua' -que exige el TSE que tenga cualquier contenido electoral hecho con IA- pasa desapercibida para la mayoría de los electores. Cuando la perciben, por lo general no conocen su significado", aseguró.
La académica destaca también el acuerdo firmado entre el TSE y las grandes tecnológicas para ampliar la cooperación en la materia, y el decreto presidencial de este año que amplía las obligaciones de las plataformas y proveedores de redes sociales como "intentos válidos de mitigar los efectos dañinos de la IA en las elecciones". No obstante, sostiene que "la complejidad y la creciente polémica en torno a la cuestión imponen límites al derecho".
Kaufman advierte además sobre un problema práctico: la velocidad con que se difunden los contenidos generados por IA puede superar la capacidad de respuesta de la Justicia Electoral.
El propio TSE ha comenzado a reforzar su capacidad para enfrentar ese escenario. En junio creó una comisión permanente dedicada al uso de IA dentro de la Justicia Electoral, con participación de representantes del tribunal y de los tribunales regionales, además de la posibilidad de recurrir a especialistas externos en inteligencia artificial y peritaje digital.
Doble de publicacionesEl último reporte publicado por el Instituto DX registró 6.022 publicaciones de líderes políticos brasileños que utilizaron inteligencia artificial entre el 17 y el 31 de julio, el doble que en la quincena anterior.
Lula y Flávio abren la campañaLula y Flávio, su principal rival en las presidenciales, arrancaron ayer la campaña para las elecciones de octubre en sus respectivas cunas políticas, con la promesa de combatir el crimen organizado.
Lula, en busca de su cuarto mandato no consecutivo, dio su primer mitin en el Estadio Municipal Primero de Mayo, en São Bernardo do Campo, a las afueras de São Paulo, donde se forjó como sindicalista y lideró las manifestaciones contra la dictadura. El abanderado del Partido de los Trabajadores (PT) reunió a sus militantes en un acto teñido de rojo, en el que se recordó su lucha obrera y el legado social de sus gobiernos.
Flávio optó por el bastión político de los Bolsonaro, la ciudad de Río de Janeiro, donde concentró a sus seguidores en la orla de la playa de Copacabana con banderas brasileñas y algunas de Estados Unidos.
El senador compareció con un chaleco antibalas por debajo de una camiseta amarilla con el mensaje: "Mi partido es Brasil".