No, Katy Perry y Rihanna no asistieron a la Met Gala este año. Pero eso no impidió que las imágenes generadas por IA engañaran a algunos fanáticos haciéndoles creer que las estrellas aparecían en las escaleras de la noche más importante de la moda.
Las imágenes deepfake que representan a un puñado de grandes nombres en la recaudación de fondos anual del Museo Metropolitano de Arte se difundieron rápidamente en línea el lunes y la madrugada del martes.
Algunos usuarios de redes sociales con ojos de águila detectaron discrepancias, y las propias plataformas, como X’s Community Notes, pronto notaron que las imágenes probablemente fueron creadas utilizando inteligencia artificial. Una pista de que una imagen viral de Perry con un vestido cubierto de flores, por ejemplo, era falsa es que la alfombra de las escaleras coincidía con la del evento de 2018, no con la tela teñida de verde de este año forrada con follaje vivo.
Aún así, otros se dejaron engañar, incluida la propia madre de Perry. Horas después de que al menos dos imágenes de la cantante generadas por IA comenzaran a aparecer en línea, Perry las volvió a publicar en su Instagram, acompañadas de una captura de pantalla de un texto que parecía ser de su madre felicitándola por lo que pensaba que era una aparición real en la Met Gala.
«Jaja, mamá, la IA también te afectó, ¡CUIDADO!» Perry respondió en el intercambio.
Los representantes de Perry no respondieron de inmediato a la solicitud de The Associated Press de más comentarios e información sobre por qué Perry no estuvo en el evento del lunes por la noche. Pero en un título de su publicación de Instagram, Perry escribió: «No pude ir al MET, tuve que trabajar». La publicación también incluía un video apagado de ella cantando.
Mientras tanto, una imagen falsa de Rihanna con un impresionante vestido blanco bordado con flores, pájaros y ramas también circuló en línea. La multifacética era originalmente una invitada confirmada para la Met Gala de este año, pero los representantes de Vogue dijeron que no asistiría antes de que cerraran la alfombra el lunes por la noche.
La revista People informó que Rihanna tenía gripe, pero los representantes no confirmaron de inmediato el motivo de su ausencia. Los representantes de Rihanna tampoco respondieron de inmediato a las solicitudes de comentarios en respuesta a la imagen de la estrella generada por IA.
Si bien es difícil determinar la fuente o las fuentes de estas imágenes, el telón de fondo realista de la Met Gala que se ve en muchas sugiere que cualquier herramienta de inteligencia artificial que se haya utilizado para crearlas probablemente se haya entrenado en algunas imágenes de eventos pasados.
El fotógrafo oficial de la Met Gala, Getty Images, declinó hacer comentarios el martes.
El año pasado, Getty demandó a un importante generador de imágenes de IA, Stability AI, con sede en Londres, alegando que había copiado más de 12 millones de fotografías de la colección de fotografías de archivo de Getty sin permiso. Desde entonces, Getty lanzó su propio generador de imágenes de inteligencia artificial basado en sus trabajos, pero bloquea los intentos de generar lo que describe como «contenido problemático».
Esta no es la primera vez que vemos IA generativa, una rama de la IA que puede crear algo nuevo, utilizada para crear contenido falso. Los deepfakes de imágenes, videos y audio de figuras prominentes, desde el Papa Francisco hasta Taylor Swift, han ganado mucho terreno en línea antes.
Los expertos señalan que cada caso pone de relieve las crecientes preocupaciones en torno al uso indebido de esta tecnología, en particular en lo que respecta a la desinformación y el potencial de llevar a cabo estafas, robo de identidad o propaganda, e incluso manipulación electoral.
«Antes, ver es creer, y ahora ver no es creer», dijo Cayce Myers, profesora y directora de estudios de posgrado en la Escuela de Comunicación de Virginia Tech, señalando el impacto de la imagen de Perry generada por IA el lunes. “(Si) incluso se puede engañar a una madre haciéndole creer que la imagen es real, eso demuestra el nivel de sofisticación que tiene ahora esta tecnología”.
Si bien el uso de IA para generar imágenes de celebridades con vestidos de lujo imaginarios (que fácilmente se demuestra que son falsos en un evento muy publicitado como la Met Gala) puede parecer relativamente inofensivo, Myers y otros señalan que existe una historia bien documentada de usos más graves o perjudiciales de este tipo de tecnología.
A principios de este año, imágenes falsas sexualmente explícitas y abusivas de Swift, por ejemplo, comenzaron a circular en línea, lo que provocó que X, anteriormente Twitter, bloqueara temporalmente algunas búsquedas. Las víctimas de deepfakes no consensuales van mucho más allá de las celebridades, por supuesto, y sus defensores enfatizan una preocupación particular por las víctimas que tienen poca protección. Las investigaciones muestran que el material explícito generado por IA daña abrumadoramente a mujeres y niños, incluidos casos inquietantes de desnudos generados por IA que circulan en las escuelas secundarias.
Y en un año electoral para varios países del mundo, los expertos también siguen señalando las posibles consecuencias geopolíticas que podría tener el material engañoso generado por IA.
«Las implicaciones aquí van mucho más allá de la seguridad del individuo, y realmente tocan cosas como la seguridad de la nación, la seguridad de toda la sociedad», dijo David Broniatowski, profesor asociado de la Universidad George Washington e investigador principal del estudio. Instituto para una IA confiable en el derecho y la sociedad en la escuela.
