MENÚ
Las elecciones en Estados Unidos de 2024 serán las primeras en las que los votantes y las autoridades electorales se enfrentan al ChatGPT y otros avances de la inteligencia artificial (IA) en una elección presidencial.
Que habrá desinformación electoral producida con IA es un hecho irrefutable. La duda es cuál será su impacto. Y, entre otras cosas, si los candidatos y sus equipos serán o no transparentes con los votantes en su uso.
Esta semana, por ejemplo, en Factchequeado desmentimos un video de la campaña de Ron de Santis, el gobernador de Florida que aspira a llegar a la Casa Blanca, que incluye imágenes generadas por IA. El video muestra un collage de 6 imágenes del expresidente republicano Donald Trump con el exdirector del Instituto Nacional de Alergias y Enfermedades Infecciosas (NIAID), Anthony Fauci, y 3 de esas imágenes (en las que Trump aparece abrazando y besando a Fauci) fueron creadas con inteligencia artificial. De Santis y Trump, aunque son del mismo partido, están enfrentados y compiten por llegar a la presidencia de los Estados Unidos.
El video no aclara a los votantes que se usó IA en algunas imágenes que se presentan mezcladas con otras auténticas. ¿Coincidimos en que eso es un engaño a los ciudadanos o alguien argumenta lo contrario?
En abril de 2023 el Partido Republicano utilizó IA para crear un video en contra de Joe Biden luego de que el presidente anunciara que buscaría la reelección. Sin embargo, en el caso de ese video, la cuenta del GOP aclaraba en el texto que el contenido había sido creado con AI (las siglas en inglés de Artificial Intelligence).
El video de la campaña de DeSantis, en cambio, no es transparente con los ciudadanos porque no advierte que las imágenes fueron creadas con IA, y además las mezcla con imágenes reales. En Factchequeado esa vez no pudimos determinar cuál software fue utilizado para la creación de esas imágenes.
También vimos circular en abril de 2023 imágenes creadas con inteligencia artifical sobre el supuesto arresto de Trump por parte de la policía en Nueva York, cuando el exmandatario debió entregarse a las autoridades en la Corte del Distrito de Manhattan, en Nueva York, tras haber sido imputado por el Grand Jury (jurado investigador) que estudió el caso del pago de 130,000 a la actriz porno Stormy Daniels. Otras imágenes mostraron además al presidente Biden bailando con la vicepresidenta, Kamala Harris, supuestamente para celebrar la acusación. Todas las desmentimos en Factchequeado aquí.
En esta nota, te explicamos cómo saber si una imagen fue creada con IA. Es útil buscar la fuente de la supuesta foto y averiguar si fue publicada previamente. También es importante mirar y prestar especial atención a las manos, los ojos y los pequeños detalles de contexto para encontrar imperfecciones o marcas. Se pueden usar herramientas de detección automática para saber si una imagen es producto de IA, aunque no son 100% infalibles.
Que las formas de desinformación son dinámicas y los desinformantes evolucionan y mejoran sus técnicas más rápido que quienes deben contrarrestarla no es ninguna novedad. Viene pasando en todas las elecciones de los últimos años, donde vimos fotos manipuladas, videos ralentizados, cheapfakes con imágenes manipuladas (porque no hacía falta recurrir a los deepfakes, que eran más costosos entonces), audios de WhatsApp con voces de terceros o generadas con tecnología. Elección tras elección, los desinformantes sorprenden con alguna técnica novedosa que, en general, deja mal paradas a las autoridades electorales que, en el mejor de los casos, están preparadas para responder a la desinformación con las técnicas utilizadas en el período electoral anterior.
En Estados Unidos, más de un año antes de los comicios, distintos expertos advierten sobre las formas en las que el uso de IA puede amenazar las elecciones o minar la legitimidad de los procesos electorales y hacen recomendaciones para proteger los comicios.
La organización Brennan Center for Justice, aliada de Factchequeado, publicó el análisis "Cómo la inteligencia artificial pone en riesgo las elecciones y las protecciones que se necesitan". En su estudio, Mekela Panditharatne, experta en desinformación del Brennan Center for Justice, y Noah Giansiracusa, profesor asociado de matemáticas y ciencia de datos en la Universidad de Bentley, describen las peligros que plantea la desinformación relacionada con las elecciones generada mediante IA.
Hacen un llamamiento al gobierno federal, a los desarrolladores de inteligencia artificial, a las empresas de redes sociales y a otros organismos para que aumenten los esfuerzos para proteger la democracia.
Entre sus propuestas plantean:
- Refinar los filtros de IA para eliminar las falsedades electorales e imponer limitaciones para hacer más difíciles las campañas de desinformación a gran escala.
- Que el gobierno federal cree herramientas para contrarrestar tanto las ultrafalsificaciones o deepfakes como el fraude electrónico, o el phishing, y que comparta dichas herramientas con las autoridades electorales estatales y locales para ayudarlas a identificar el contenido generado por IA.
- Designar una agencia líder en el poder ejecutivo para coordinar la gobernanza de los asuntos de inteligencia artificial en las elecciones.
Laura Zommer es cofundadora de Factchequeado, directora general de Chequeado y Knight Fellow de ICFJ y Ashoka Fellow
Factchequeado es un medio de verificación que construye una comunidad hispanohablante para contrarrestar la desinformación en Estados Unidos. ¿Quieres ser parte? Súmate y verifica los contenidos que recibes enviándolos a nuestro WhatsApp +16468736087 o a factchequeado.com/whatsapp.
Lee también:
https://factchequeado.com/teexplicamos/20230223/deepfake-imagen-manipulada-diferencias/
https://factchequeado.com/teexplicamos/20230421/imagen-creada-inteligencia-artificial/
https://factchequeado.com/verificaciones/20230609/desantis-campana-ai-imagenes-trump-fauci/
