El “deepfake” avanza, uno de cada 10 adolescentes fue víctima

(ANSA) – ROMA 6 OCT – Uno de cada ocho jóvenes de entre 13 y 20 años, y uno de cada diez adolescentes de entre 13 y 17 años, afirmaron conocer personalmente a alguien que ha sido víctima de imágenes de desnudos "deepfake" – imágenes, videos o audios que son editados o generados utilizando herramientas de inteligencia artificial,- y uno de cada 17 ha sido víctima.
Estos datos provienen de Thorn, una organización estadounidense sin fines de lucro dedicada a la seguridad juvenil, que arroja luz sobre el creciente fenómeno de los desnudos deepfake. Un fenómeno que también está presente fuertemente en Italia.
Con un software especial, como Clothoff, actualmente bloqueado por la Autoridad Italiana de Protección de Datos, es posible desnudar a una persona, creando así una imagen desnuda artificialmente y sin su consentimiento.
Celebridades como Taylor Swift han sido víctimas (en 2014, millones de personas vieron una imagen pornográfica falsa de ella en redes sociales) y esto puede afectar a cualquiera.
Según Graphika, empresa que analiza redes sociales, millones de personas visitan más de 100 sitios web de "desnudez" cada mes. Y, según una encuesta realizada en el Reino Unido por la empresa de seguridad Eset, una de cada 10 mujeres ha sido víctima de pornografía deepfake.
Además de "Clothoff", otras aplicaciones como BikiniOff y DeepNude manipulan fotos de personas y pueden recrear contenido pornográfico falso. La Autoridad de Protección de Datos italiana abordó estos problemas en 2020 e inició una investigación sobre Telegram, el canal a través del cual se distribuían estos bots.
Posteriormente, Italia publicó una hoja informativa sobre los posibles riesgos del uso de estas tecnologías para concienciar a los usuarios.
Según la investigación de Thorn, el 13 % de los adolescentes afirmó conocer a alguien que había utilizado inteligencia artificial para crear o redistribuir pornografía deepfake de menores.
También ha habido noticias relacionadas con pornografía deepfake en Italia. En 2023, dos estudiantes de secundaria en Roma fueron arrestadas por publicar fotos de compañeras en redes sociales creadas con la aplicación BikiniOff. En 2024, en la provincia de Latina, cinco estudiantes menores de edad hicieron lo mismo al tomar y luego falsificar fotos de compañeros de sus perfiles de Instagram.
Incluso, el Vaticano se ha hecho eco del problema. El equipo de comunicaciones del Vaticano afirmó haber reportado cientos de cuentas, principalmente en YouTube, que publican videos falsos del Papa León creados con inteligencia artificial (deepfakes) desde el inicio de su pontificado. Sin embargo, es una batalla cuesta arriba, ya que aparecen nuevas cuentas, videos e imágenes tan rápido como se eliminan otros.
"Estamos presenciando la proliferación exponencial de una serie de canales de YouTube con videos falsos, todos similares entre sí, algunos con la voz de León XIV, otros con la de sus traductores, y otros en tercera persona. Todos utilizan inteligencia artificial para hacer que el Papa diga cosas que nunca dijo", declaró el Dicasterio para la Comunicación a CNA.
Una búsqueda de "Papa León" en YouTube arrojó docenas de videos falsos del Santo Padre, donde supuestamente hacía declaraciones que van desde lo plausible, como reflexiones sobre la Eucaristía, hasta lo improbable, como el anuncio de su renuncia.
La mayoría de los videos no han recibido más que unos pocos cientos de visualizaciones, pero algunos deepfakes se han vuelto virales. Un video de 25 minutos que afirma que el Papa ha roto su silencio sobre el asesinato de Charlie Kirk obtuvo más de 445.000 visualizaciones en los primeros siete días tras su publicación. (ANSA).
Leggi l’articolo completo su ANSA.it