El Consejo Audiovisual de Andalucía (CAA), ha publicado un informe sobre “Aplicaciones web de deepnude con IA generativa” donde se constata que con estas herramientas que facilitan la creación de imágenes de personas desnudas, se vulneran derechos de máxima protección que justifican la actuación de los distintos poderes públicos para bloquear el acceso a estas páginas y exigir responsabilidades.
En el estudio, que se ha llevado a cabo entre el 12 y el 26 de febrero de 2024, se ha realizado una búsqueda activa, mediante el motor de Google, de aplicaciones web específicamente de deepnude, o generación de imágenes virtuales de cuerpos desnudos a partir de una imagen de una persona vestida (en esta investigación siempre mujeres), conservándose el rostro que aparece en la foto aportada por el usuario. Algunas de estas aplicaciones también permiten la realización de deepfake, es decir, la mezcla virtual de dos imágenes aportadas con el usuario, normalmente un rostro y un cuerpo distinto al que se quiere añadir el rostro.
El CAA ha querido con este informe analizar los riesgos que conlleva el uso de la IA en el ámbito audiovisual, teniendo en cuenta los datos sobre el incremento del consumo de contenido audiovisual de carácter sexual por parte de los menores y la existencia de apps generadoras de material pornográfico falso e hiperrealista que circula por las redes y a los que acceden libremente.
Menores y deepfakes
El pasado mes de septiembre en la localidad extremeña de Almendralejo, más de 20 niñas y adolescentes, con edades comprendidas entre los 11 y los 17 años, denunciaron ser víctimas de una aplicación que genera desnudos utilizando inteligencia artificial. Las imágenes fueron creadas a partir de fotografías de ellas completamente vestidas y publicadas en sus redes sociales, utilizando una aplicación llamada Clothoff que genera una visualización virtual de cómo se vería a esa persona desnuda. Una vez obtenidas esas imágenes de las menores sin ropa, se difundieron de forma masiva por redes sociales tan comunes como lo son Whatsapp y Telegram.
La posibilidad de acceder a webs con esa facilidad junto al efecto multiplicador de las redes sociales, han creado una alarma social y han puesto de manifiesto la necesidad de que los poderes públicos actúen desde las distintas esferas.
No hay fronteras
Ninguna de las webs que se han analizado en este estudio está alojada o registrada en territorio español. Toronto y Reikiavik son las ciudades que más se repiten en las búsquedas que se han realizado, pero también hay otras como Kuala Lumpur, Nassau, Arizona o Walnut.
Un dato a tener en cuenta es que todas las aplicaciones web analizadas están escritas en inglés, aunque la mitad de ellas, al detectar la localización del usuario, son traducidas automáticamente al español.
Sin verificación de edad
El informe concluye que ninguna de las páginas webs analizadas cuenta con un sistema fiable de verificación de la mayoría de edad de los usuarios, de hecho, en 13 de las 18 webs analizadas no hay ni siquiera advertencia sobre la edad de uso. Las 5 restantes muestran una advertencia y el usuario, debe con una simple pulsación del ratón, declarar que es mayor de edad.
Por otra parte, se han encontrado algunas aplicaciones que pueden ser utilizadas directamente de forma gratuita sin necesidad de identificarse. En otras ocasiones, para hacer uso de la aplicación es necesario inscribirse o darse de alta proporcionando un correo electrónico. En ambos casos el número de imágenes que pueden generarse de forma gratuita está limitado, e incluso en algún caso no genera desnudos gratuitos (como ocurre en undress.love o deepnude.cc) sino que genera imágenes con lencería o bikini o desenfocadas. En algún otro caso se han identificado aplicaciones que disponen de un servicio que utiliza IA para crear imágenes pornográficas desde cero en diferentes estilos. Estas imágenes se generan señalando una serie de parámetros predeterminados o bien haciendo una descripción, utilizando lenguaje natural. En otras webs se utiliza esta misma tecnología para aplicarla a un servicio de sexting generado por IA.
Pueden acceder al informe del CAA a través de este enlace
Asimismo, pueden consultar el Acuerdo-conclusiones del informe del CAA a través de este enlace