Faltaban solo días para que celebraran las primarias presidenciales del Partido Demócrata en New Hampshire, cuando miles de votantes comenzaron a recibir llamadas automatizadas del presidente de los Estados Unidos, Joe Biden.
Al contestar, Biden comenzaba con la que fue su frase característica en la primera elección, "qué montón de tonterías (what a bunch of malarkey)", para proseguir con un discurso animando a los demócratas a no votar en las primarias de enero.
La alarma saltó inmediatamente dentro del partido. Y si bien Biden ni siquiera figuraba en las primarias por problemas en la organización, la voz de la llamada aseguraba que “votar este martes sólo ayuda a los republicanos en su búsqueda de elegir nuevamente a Donald Trump. Su voto marca la diferencia en noviembre, no este martes. Si desea ser eliminado de futuras llamadas, presione dos ahora”.
Tras divulgarse la existencia de la llamada mímica de Biden, la ex presidenta del Partido Demócrata en el estado, Kathy Sullivan, exigió que los responsables fueran “procesados en la mayor medida posible porque esto es un ataque a la democracia”.
En conversación con NBC, Sullivan aseguró que quien hizo la llamada “obviamente… quiere lastimar a Joe Biden”.
En respuesta, el gobierno estadounidense prohibió, a través de la votación unánime de la Comisión Federal de Comunicaciones, que las llamadas automáticas utilicen voces generadas por Inteligencia Artificial
Sin embargo, el autor intelectual del deepfake permaneció en silencio hasta concluídas las primarias. Para sorpresa de todos, quien estaba detrás de la llamada resultó ser un veterano operador político del Partido Demócrata llamado Steve Kramer.
"Con una simple inversión de 500 dólares, cualquiera podría replicar mi decisión intencional", declaró Kramer.
Según constató The Guardian, Kramer admitió que encargó una llamada automática que presentaba una imitación creada por IA de Joe Biden disuadiendo a los votantes de participar en las primarias presidenciales de New Hampshire.
En su declaración, Kramer dijo que recurrió a “tecnología en línea fácil de usar” para imitar la voz del presidente y enviar la llamada automática a 5.000 demócratas que tenían más probabilidades de votar en las primarias del 23 de enero.
"Con una simple inversión de 500 dólares, cualquiera podría replicar mi decisión intencional", declaró Kramer al Guardian. "Se necesita una acción inmediata en todos los organismos y reguladores".
A pesar de la invitación a no participar, Biden ganó las primarias de New Hampshire incluso sin figurar en la papeleta, pues se permitió a los electores escribir su nombre en el voto.
Eslovaquia: audios para amañar elecciones
Lo sucedido en las primarias estadounidenses es simplemente el más llamativo de los últimos casos de uso malicioso de la Inteligencia Artificial en elecciones democráticas.
Un ejemplo reciente es lo sucedido en las elecciones parlamentarias de Eslovaquia, en octubre pasado. Días antes de la votación, comenzó a circular por Facebook un audio en que se escuchaba al candidato socioliberal, Michal Šimečka, discutir planes sobre cómo manipular las elecciones comprando votos de comunidades marginadas.
Se aprovechó una laguna en la política de medios manipulados de Meta, que dicta que sólo los videos falsos van en contra de sus reglas. Videos, no audios.
El audio resultó ser falso. La agencia de noticias AFP dijo que mostraba signos de haber sido manipulado mediante inteligencia artificial. Lo único cierto es que la coalición de Šimečka perdió la elección contra el socialdemócrata prorruso Robert Fico.
Respecto la difusión del audio, un artículo de Wired señala que se aprovechó una laguna en la política de medios manipulados de Meta, propietaria de Facebook, que dicta que sólo los videos falsos (en los que una persona ha sido editada para decir palabras que nunca dijo) van en contra de sus reglas. Videos, no audios.
India y los políticos que resucitan
Otro uso reciente que se ha dado a los deepfakes ha sido entregar apoyos políticos en medio de campañas.
En los últimos meses, en la India se ha utilizado inteligencia artificial para resucitar al fallecido líder del partido Dravida Munnetra Kazhagam (DMK), Karunanidhi, para eventos públicos.
Karunanidhi, ícono del cine y la política indios, apareció ante una audiencia en vivo en una gran pantalla proyectada para felicitar a su amigo y colega político TR Baalu, de 82 años, por el lanzamiento de su libro autobiográfico, reportó Al Jazeera.
Se trató de un discurso de ocho minutos pronunciado el pasado 23 de enero en los que el fallecido político felicitó al autor del libro, siendo igualmente efusivo en sus elogios por el capaz liderazgo del diputado Muthuvel Karunanidhi Stalin, su hijo y actual primer ministro del estado indio Tamil Nadu.
Según Al Jazeera, esa fue la tercera vez, en los últimos seis meses, que el icónico líder del partido DMK resucitó utilizando inteligencia artificial para eventos públicos de este tipo.
Captura de pantalla de AI Karunanidhi en la segunda conferencia anual del ala juvenil de DMK.
Por otra parte, un ejemplo de uso de deepfakes con políticos vivos es el de la precandidata a la presidencia de México, Xóchitl Gálvez, quien el diciembre de 2023 dio a conocer a iXóchitl, una vocería oficial creada con inteligencia artificial generativa. Según la candidata opositora, la vocería estará a cargo de comunicar los mensajes de la precandidata en sus redes sociales oficiales.
En Chile, el tratamiento a través de herramientas de IA para modificar la voz y la imagen de políticos se ha enfocado en material cómico. Eso al menos, por ahora.
Una asesoría parlamentaria de la Biblioteca del Congreso (BCN) para la Comisión de Ciencia y Tecnología de la Cámara de Diputados detalla que Chile cuenta con una Política Nacional de Inteligencia Artificial desde 2021, pero que no existe una regulación integral de la inteligencia artificial, aunque hay varios proyectos de ley en tramitación.
Así, la democracia chilena tendrá una primera prueba de fuego durante las elecciones municipales de octubre de este año. Luego, vendrán las presidenciales y parlamentarias de 2025, fecha para la que cabría esperar la implementación de una regulación del uso de inteligencia artificial en campañas políticas.
Propaganda y arte generativo
Pero, no todo son deepfakes maliciosos.
Para las elecciones presidenciales en Indonesia, celebradas el 14 de febrero pasado, el candidato Prabowo Subianto, actual ministro de Defensa y alguna vez temido ex comandante de las fuerzas especiales de la dictadura de Suharto, utilizó herramientas de inteligencia artificial para su campaña.
Saltándose la regla de OpenAI que prohíbe usar sus productos para propaganda política, Subianto utilizó sus herramientas para crear el arte de su campaña, rastrear el sentimiento de las redes sociales, crear chatbots interactivos y dirigirse a los votantes.
Por ejemplo, Subianto utilizó el arte generativo de Midjourney para estampar toda Indonesia con un avatar propagandístico con una tierna versión en caricatura. Según informó Reuters, el avatar se reproduce en sudaderas y calcomanías, y ocupa un lugar destacado en publicaciones etiquetadas con #Prabowo que tienen alrededor de 19 mil millones de visitas en TikTok.
El mismo día de la votación el ministro Subianto se declaró ganador. En Indonesia hay más de 205 millones de votantes habilitados y todavía se están contando los votos. Con el 77% escrutado, el ex comandante se eleva contra sus contrincantes con el 58% de las preferencias.
El director ejecutivo de Midjourney, David Holz, ha dicho que la empresa está a punto de prohibir las imágenes políticas, incluidas las de los principales candidatos presidenciales.
En Chile, el uso de herramientas de arte generativo para realizar propaganda política se ha hecho habitual en redes sociales.
Un caso reciente es la promoción de Axel Kaiser como candidato presidencial por parte del Movimiento Libertario. En su cuenta de X, el partido en formación posteó una foto generada con IA del columnista de El Mercurio con una banda presidencial y un león de fondo, solicitando “RT por un @AXELKAISER Presidente”.
Imagen generada por IA de un Axel Kaiser presidente.
El león de Kaiser hace abierta referencia al presidente argentino, Javier Milei, otro que aprovechó la nula regulación sobre herramientas de arte generativo durante su campaña y que ha seguido utilizando para hacer propaganda a través de sus redes sociales.
En este sentido, la cuenta de Instagram de Milei está poblada de imágenes de su avatar, el león, enfrentándose a sus enemigos políticos: un león contra el Instituto Nacional contra la Discriminación (INADI), un león destruyendo una bandera roja con la hoz y el martillo, un león encarcelando a los manifestantes contra la ley omnibus, etc. Aunque también ha apelado a la ternura con su avatar felino junto a lo que se entiende son los perros clonados de Milei.
¿El problema? Al contrincante de Milei durante la elección, Sergio Massa, tampoco pareció importarle los problemas asociados al uso desregulado de la IA durante la campaña.
Según constató el New York Times, el candidato peronista solicitó al software de arte generativo una “ilustración de afiche de propaganda política soviética de Gustav Klutsis con un líder, masssa, de pie y firme”.
Cuenta de Instagram de Milei publica imágenes creadas con IA.
Ahora bien, el director ejecutivo de Midjourney, David Holz, ha dicho que la empresa está a punto de prohibir las imágenes políticas, incluidas las de los principales candidatos presidenciales.
Sin embargo, The Guardian constató que, a pesar de que actualmente la herramienta prohíbe la creación de imágenes relacionadas a la eventual elección estadounidense entre Joe Biden y Donald Trump, cuando se realizó este mismo ejercicio con el primer ministro británico Rishi Sunak y el líder de la oposición Keir Starmer, el software generó una serie de imágenes sin ningún problema.
Por su parte, las plataformas a través de las que se difunden este tipo de noticias falsas se reunieron el pasado 16 de febrero en Múnich para firmar un pacto para adoptar voluntariamente “precauciones razonables” para evitar que se utilicen herramientas de inteligencia artificial para perturbar elecciones democráticas en todo el mundo.
Ejecutivos de Adobe, Amazon, Google, IBM, Meta, Microsoft , OpenAI y TikTok se hicieron presentes en la reunión. Otras doce empresas, incluida X de Elon Musk, dijeron que se sumarán al acuerdo.
No obstante, por ahora el acuerdo es en gran medida simbólico, en vista que las empresas no se comprometieron a prohibir ni eliminar los deepfakes. Más bien, se trató de un pacto para intentar detectar y etiquetar contenido engañoso creado con IA cuando se distribuya en sus plataformas.
En palabras de Nick Clegg, presidente de asuntos globales de Meta, para las plataformas "no se trata de imponer una camisa de fuerza a todo el mundo".
Comentarios
Esto parece sacado de una
Se nos viene un cerro de Fake
Añadir nuevo comentario