Los sitios de ‘noticias’ que proliferan arrojan historias falsas generadas por IA

Una historia sensacionalista sobre el «psiquiatra» del primer ministro israelí explotó en línea, pero fue generada por IA y se originó en uno de los cientos de sitios web que, según advierten los investigadores, están produciendo ficción basada en tecnología que se hace pasar por noticias.

Los sitios web que arrojan propaganda normalmente han dependido de ejércitos de escritores, pero las herramientas de inteligencia artificial generativa ahora ofrecen una manera significativamente más barata y rápida de fabricar contenido que a menudo es difícil de descifrar de la información auténtica.

En los últimos meses han surgido cientos de sitios impulsados por inteligencia artificial que imitan a los medios de comunicación, alimentando una explosión de narrativas falsas (sobre todo, desde la guerra hasta los políticos) que, según los investigadores, está avivando la alarma en un año de elecciones de alto riesgo en todo el mundo.

«El psiquiatra del primer ministro israelí se suicida» sigue encabezando la lista de «artículos populares» destacados en Global Village Space, un medio digital paquistaní, después de que causara revuelo en línea en noviembre con afirmaciones infundadas sobre una nota de suicidio que culpaba a Netanyahu.

Una «parte sustancial» del contenido del sitio, incluido este artículo, parece haber sido extraída de fuentes convencionales utilizando herramientas de inteligencia artificial, según un análisis de NewsGuard, una organización de investigación con sede en EE. UU. que rastrea la información errónea.

Después de escanear el sitio en busca de mensajes de error específicos del contenido producido por chatbots de IA, NewsGuard dijo que encontró similitudes significativas entre la historia sobre el «psiquiatra» de Netanyahu y un artículo ficticio de 2010 en un sitio web satírico.

La analista de NewsGuard, McKenzie Sadeghi, dijo que cuando pidió a ChatGPT, de OpenAI respaldado por Microsoft, que reescribiera el artículo original para una audiencia de noticias general, el resultado fue «muy similar» al artículo sobre Global Village Space.

«El crecimiento exponencial de las fuentes de noticias e información generadas por IA es alarmante porque el usuario medio puede percibir estos sitios como fuentes de información legítimas y fiables», afirma Sadeghi a la AFP.

Impulsando propaganda
El artículo inventado, que apareció mientras Netanyahu presiona la guerra contra los militantes de Hamas en la Franja de Gaza, rebotó en las plataformas de redes sociales en varios idiomas, incluidos árabe, farsi y francés.

Un puñado de sitios publicaron obituarios del «psiquiatra» ficticio.

La falsedad también apareció en un programa de televisión en Irán, el archienemigo de Israel, cuando su presentador indicó a los espectadores que leyeran el artículo completo sobre Global Village Space.

El sitio web, que volvió a etiquetar el artículo de Netanyahu como «sátira» después de haber sido denunciado, no respondió a la solicitud de comentarios de la AFP.

NewsGuard ha identificado al menos 739 sitios de «noticias» generados por IA que abarcan varios idiomas y que operan con poca o ninguna supervisión humana y vienen con nombres genéricos como «Ireland Top News».

Pero incluso esa lista es probablemente «sólo la fruta más fácil», dijo Darren Linvill, de la Universidad de Clemson.

Linvill se encuentra entre los expertos en desinformación de la universidad que encontraron varios sitios web vinculados a Rusia que imitaban noticias e impulsaban propaganda del Kremlin sobre la guerra en Ucrania antes de las elecciones presidenciales estadounidenses de noviembre.

Incluyen DC Weekly, que según NewsGuard utiliza inteligencia artificial para reescribir artículos de otras fuentes sin crédito.

Este sitio, que parece ser propiedad de John Mark Dougan, un ex marine estadounidense que huyó a Rusia, ha publicado una serie de afirmaciones falsas, incluida la de que el presidente ucraniano Volodymyr Zelensky compró dos yates de lujo por valor de millones de dólares con dinero de ayuda estadounidense.

Para ilustrar el poder de la desinformación generada por la IA para influir en las decisiones políticas, algunos legisladores estadounidenses se hicieron eco de la narrativa falsa en medio de un debate crucial sobre la ayuda a Ucrania.

‘Camuflaje’
«La desinformación generada automáticamente probablemente será una parte importante de las elecciones de 2024», dijo a la AFP el profesor de la Universidad de Nueva York, Gary Marcus.

«Los estafadores están utilizando IA (generativa) a diestro y siniestro».

El contenido generado por IA en sitios web como DC Weekly ayuda a «crear una especie de camuflaje» que da más credibilidad a sus historias falsas escritas por humanos, dijo Linvill a la AFP.

Estos sitios web subrayan el potencial de las herramientas de inteligencia artificial (los chatbots incluso más que los generadores de fotografías y los clonadores de voz) para impulsar la desinformación y, al mismo tiempo, erosionar aún más la confianza en los medios tradicionales, dicen los investigadores.

Su contenido polarizador, que podría provocar agitación e influir en las creencias políticas, está destinado a atraer la atención y captar ingresos publicitarios.

El modelo de ingresos de muchos de estos sitios web es la publicidad programática, lo que significa que las principales marcas pueden terminar apoyándolos sin querer, mientras que puede ser difícil para los gobiernos tomar medidas drásticas por temor a violar las protecciones de la libertad de expresión, dicen los investigadores.

«Estoy particularmente preocupado por su uso por parte de empresas con fines de lucro», dijo Linvill.

«Si no nos detenemos y prestamos atención, se erosionará aún más la línea entre la realidad y la ficción, que ya es tan borrosa».