Un anuncio de ataque republicano falsifica a Chuck Schumer con IA

Un nuevo anuncio de ataque de los republicanos del Senado utiliza las palabras reales del senador Chuck Schumer sobre el cierre del gobierno, pero en una falsificación artificial del líder de la minoría demócrata del Senado.

El video de 30 segundos publicado en X y YouTube por el Comité Senatorial Nacional Republicano el viernes generó alarmas entre muchos observadores que advirtieron que cruzaba una nueva frontera en la política y podría desatar una avalancha de anuncios de ataques deepfake generados por IA.

Subtitulado en X «Semana 3 del cierre de Schumer: ‘Cada día es mejor para nosotros'», el video muestra una versión generada por IA de Schumer diciendo repetidamente esas palabras y sonriendo. El vídeo concluye con Schumer sonriendo mientras un narrador dice: «El cierre de Schumer está empeorando las cosas en todo Estados Unidos y a los demócratas les encanta».

«Cada día es mejor para nosotros», fue parte de una cita que Schumer dio al sitio político Punchbowl News en un artículo del 9 de octubre sobre el cierre. Continuó: «Es porque hemos pensado en esto con mucha antelación y sabíamos que la atención médica sería el punto focal el 30 de septiembre y nos preparamos para ello… Toda su teoría era: amenazarnos, engañarnos y nos rendiríamos en uno o dos días».

Sin embargo, la historia original solo incluía el texto de la declaración de Schumer, no video ni audio.

Un comunicado de prensa de NRSC que anuncia el anuncio lo describe como una «visualización» del comentario de Schumer y dice que fue «creado en parte utilizando software de inteligencia artificial e incluye un descargo de responsabilidad sobre IA».

Las imágenes falsas de Schumer incluyen una pequeña marca de agua transparente del logotipo de NRSC y las palabras «AI GENERADO» en la esquina inferior derecha. En YouTube, el video lleva una etiqueta adicional de «Contenido alterado o sintético» que dice «El sonido o las imágenes fueron editados significativamente o generados digitalmente».

«Estas son las propias palabras de Chuck Schumer», dijo la directora de comunicaciones de NRSC, Joanna Rodríguez, en un correo electrónico a NPR. «Sabemos que Schumer desearía que la gente no supiera que dijo esto, pero lo hizo, y este video es una manera para que los votantes vean y escuchen lo orgulloso que está de su cierre».

La oficina de Schumer no respondió a una solicitud de comentarios.

Aunque la cita fue algo que Schumer realmente dijo, el uso de IA para inventar secuencias de video falsas cruza una línea, dijo Hany Farid, profesor de la Universidad de California en Berkeley que estudia los medios manipulados.

«Si quisieran usar la cita, podrían haber mostrado una imagen de Schumer y superponer la cita, como se hace a menudo. No se puede argumentar razonablemente que crear un deepfake del senador Schumer sea lo mismo», dijo.

Además, Farid dijo que el descargo de responsabilidad en la esquina inferior derecha del video «no es una divulgación particularmente clara u obvia, particularmente cuando la mayoría de los usuarios están condenados al desplazarse por sus publicaciones en las redes sociales».

El video del NRSC también fue criticado por periodistas y otros comentaristas en las redes sociales, incluidos reporteros de publicaciones de derecha.

«La parte de Schumer es un vídeo generado por IA, que se muestra en la esquina inferior derecha, pero estamos a las puertas de un nuevo mundo aterrador», escribió en X Jon Levine, reportero político del Washington Free Beacon.

«NRSC se ha inclinado cada vez más hacia la IA para sus anuncios, pero esta es la primera vez que los he visto llegar tan lejos como para usarla para un video falso de un oponente. Esta es una pendiente resbaladiza, incluso con la pequeña revelación de IA en la esquina», publicó en X Ramsey Touchberry, reportero del Congreso en el Washington Examiner.

En medio de las críticas, Rodríguez del NRSC escribió en su propia cuenta X: «La IA está aquí y no irá a ninguna parte. Adáptate y gana o agarra la perla y pierde».

No es la primera vez que los republicanos utilizan la IA para hacerse pasar por Schumer y otros demócratas. En vísperas del cierre, el presidente Trump publicó en Truth Social un video aparentemente generado por IA y lleno de blasfemias en el que Schumer decía que «ya a nadie le gustan los demócratas». El líder de la minoría de la Cámara de Representantes, Hakeem Jeffries, también aparece en el video con un sombrero y un bigote de dibujos animados.

Pero a diferencia del vídeo de Schumer del NRSC, los ejemplos anteriores eran fáciles de detectar como no auténticos.

Farid advirtió que la creciente prevalencia de falsificaciones de IA en la política podría tener un efecto corrosivo.

«Si bien no creo que nuestros líderes deban publicar deepfakes engañosos, también corren el riesgo de que cuando publiquen contenido real, haya buenas razones para que el público cuestione su autenticidad», dijo.