El Mundial de las falsas aficionadas creadas con IA

Actualizado hace 4 segundos

Miles de millones de personas pendientes de los estadios en los que desde hace tres semanas se está jugando el Mundial de Fútbol son miles de millones de razones para tratar de captar la atención de grandes audiencias, ya no solo a través de la pantalla de la televisión, sino también a través, por ejemplo, de las redes sociales. La frontera entre realidad y ficción está siendo un hilo tan fino que imágenes generadas por IA nos muestran desde celebraciones que no son tales hasta al presidente ruso Vladimir Putin, personalidades ya fallecidas como Amy Winehouse o Freddie Mercury en las gradas de un estadio o, como ha proliferado estas semanas, a aficionadas falsas creadas con un claro objetivo cosificador y sexualizador.

De las imágenes de aficionados reales y momentos curiosos que puedan vivirse en las gradas de un estadio se ha pasado a la proliferación de imágenes y vídeos creados con inteligencia artificial donde aparecen supuestas seguidoras de las distintas selecciones participantes en el torneo con reclamos como “la aficionada más guapa del Mundial” o “la hincha que está revolucionando las redes”. El propósito es sencillo: enganchar a quien ve esas imágenes para, atrayéndole a perfiles de redes sociales, hacer que accedan a páginas de pago de contenido pornográfico.

El portal Maldita.es y VerificaRTVE han documentado este fenómeno aludiendo, por ejemplo, a la investigación de la radiotelevisión pública belga RTBF en torno a una publicación en TikTok con casi 40 millones de reproducciones de la imagen de una falsa aficionada de la selección brasileña de fútbol con un hombre a su lado mirando sus pechos.

La publicación aparecía en una cuenta con 320.000 seguidores, supuestamente de una joven de Miami con el nombre de Chiara Cleo, que no advierte estar creada con IA y donde todas las publicaciones están protagonizadas por la misma chica. La investigación de la televisión belga detalla que la primera historia del perfil en cuestión redirige al usuario a Fanvue, una plataforma de contenido sexual bajo suscripción “que se distingue por la integración de herramientas de IA y la capacidad de monetizar contenido mediante perfiles falsos y contenido generado íntegramente con esta tecnología”.

Maldita.es cita otros ejemplos creados con IA y publicados en otras redes sociales que resultan ser manifiestamente falsos. Por ejemplo, en X se publicó un post un día antes de comenzar el Mundial que presentaba a supuestas seguidoras de la selección española en un partido entre España y Argentina que, por supuesto, no se había jugado. O a través de Instagram, un perfil con más de 40.000 seguidores publicó un vídeo en el que aparece una mujer con una camiseta de la selección alemana, que tampoco es real.

El mismo portal documenta casos de cuentas que en X utilizan estos vídeos relacionados con el Mundial para atraer a quienes los ven a webs en las que enseñan a crear este tipo de contenidos virales falsos con inteligencia artificial. Pero no todo son imágenes falsas, ya que también hay casos de manipulaciones de imágenes reales. En todos ellos, el denominador común son los textos de carácter sexista que acompañan a las imágenes.

Esta hipersexualización de la mujer, aunque no es un fenómeno nuevo, se ha visto favorecido por la irrupción de tecnologías como la IA. Según Lluís Ballester, investigador social de la Universitat de les Illes Balears, consultado por VerificaRTVE, “esto ha permitido que los consumidores de pornografía, de imágenes sexuales, pasen a producirlas con inteligencia artificial. Son imágenes que han contaminado el imaginario sexual de mucha gente, ya que existe un sesgo de género clarísimo en la hipersexualización por la mirada de quien lo consume, principalmente”.

Paso a la verificación

En estas imágenes y vídeos de supuestas aficionadas en el Mundial no cuenta, por tanto, solamente la utilización de técnicas de inteligencia artificial. Aquí converge, además de la IA, las redes sociales con sus algoritmos y el afán de monetización con los contenidos para adultos. Siempre con la mujer como centro de todos esos contenidos, nunca con hombres.

Hay también, por tanto, implicaciones sociales e incluso, si apuramos el matiz, éticas ya que tanto se suplanta a creadoras reales que denuncian que sus contenidos se han utilizado y han sido manipulados como se ven comprometidos derechos de imagen, de propiedad intelectual y, claro está, el consentimiento para que la imagen de un particular sea utilizada.

Herramientas de detección de contenidos creados con IA, como Hive o Iveres, han corroborado las manipulaciones realizadas con hasta un 99% de fiabilidad. La investigación de la televisión belga, además de enumerar casos de este tipo de contenidos en estas semanas de competición futbolística, también detalla como en las imágenes y vídeos se repiten patrones que permiten detectar la manipulación realizada. Desde las camisetas que portan aficionadas en donde no pone Brasil sino ‘Braiee’ hasta logotipos de cadenas que no están retransmitiendo el partido que se cita en la publicación pasando, por ejemplo, por marcadores con resultados que no son reales.

Algunas investigaciones ya han establecido que todo este contenido generado por inteligencia artificial va a ser cada vez más difícil de distinguir de los contenidos reales, y que las herramientas de detección no lo van a tener tan fácil para detectar las manipulaciones. Lo que es cierto, visto el escenario actual, es que con la IA cualquier persona puede convertirse en productor de contenidos y la lucha por distinguir lo auténtico de lo falso está servida.