Con el avance de la tecnología, surgen beneficios y también prácticas nocivas que afectan a las personas. Una de ellas es la creación de imágenes y videos falsos con Inteligencia Artificial, que se viralizan en las redes sociales y exponen a adolescentes y jóvenes de manera injusta ante millones de usuarios.
El caso de la youtuber Gabi Belle es ejemplificador. Apareció desnuda en una foto falsa en un campo, que fue difundida rápidamente a millones de personas. Intentó eliminar la imagen, pero se dio cuenta de que habían muchas más fotos falsas de ella en sitios pornográficos generados con inteligencia artificial. Aunque logró que las eliminaran, nuevas producciones explícitas surgieron poco después, convirtiéndose en un drama incontrolable debido a la facilidad de creación y difusión de este material en internet.
Casos como estos se multiplican y afectan tanto a famosos como a personas desconocidas que se convierten en víctimas de estas prácticas. Algunas imágenes falsas son creadas como bromas pesadas, pero otras forman parte de extorsiones virtuales y pornografía, con gente experta en el tema trabajando en la recopilación de material de redes sociales. Es fundamental controlar qué se sube a las redes sociales, especialmente cuando se trata de menores, ya que esto puede terminar en montajes ilegales.
Las nuevas herramientas con inteligencia artificial son clave en este problema. Pueden “desnudar” a las personas en fotografías o cambiar caras en videos pornográficos. Según Genevieve Oh, analista de la industria, los desnudos falsos generados por IA han aumentado en más del 290% desde 2018 en los principales sitios web pornográficos.
La llegada de estas imágenes generadas con IA representa un riesgo particular para las mujeres y los adolescentes, muchos de los cuales no están preparados para enfrentar tal visibilidad. El 96% de las imágenes deepfake son pornografía y el 99% están dirigidas a mujeres.
La policía descubrió el caso de un grupo de adolescentes que utilizó una aplicación de IA para crear imágenes desnudas de chicas a partir de las fotos de sus perfiles en redes sociales. Estas aplicaciones, que utilizan imágenes reales para generar desnudos, se han multiplicado en la web en los últimos meses.
Aunque algunos generadores de imágenes de IA prohíben la creación de pornografía, el código abierto permite a desarrolladores aficionados adaptar la tecnología con fines nefastos. Estas aplicaciones alientan a los usuarios a compartir las fotos generadas por IA en las redes sociales a cambio de dinero en efectivo.
FAQ:
1. ¿Qué son las imágenes falsas generadas con Inteligencia Artificial?
Son imágenes o videos que se crean utilizando tecnología de Inteligencia Artificial para engañar al público, haciendo que parezcan reales cuando no lo son.
2. ¿Por qué son peligrosas estas imágenes falsas?
Estas imágenes falsas pueden tener consecuencias devastadoras para las personas afectadas, ya que se encuentran expuestas de manera injusta y sin posibilidad de defenderse ante la difusión masiva de estas producciones.
3. ¿Quiénes son las principales víctimas de estas imágenes falsas generadas con IA?
Las mujeres y los adolescentes son los más afectados por estas imágenes falsas, ya que suelen ser el objetivo principal de la pornografía generada con IA. Muchas veces, estas personas no están preparadas para enfrentar tal visibilidad.
4. ¿Qué se puede hacer para prevenir la difusión de estas imágenes falsas?
Es fundamental controlar qué material se sube a las redes sociales, especialmente cuando se trata de menores. Además, se deben implementar medidas de seguridad más estrictas para evitar el acceso y la manipulación de datos personales en línea.
5. ¿Cuál es el papel de la Inteligencia Artificial en la generación de estas imágenes falsas?
La Inteligencia Artificial proporciona herramientas avanzadas que permiten crear imágenes y videos falsos de apariencia realista. Estas herramientas se han vuelto cada vez más accesibles y fáciles de usar, lo que ha contribuido a la propagación de este tipo de contenido engañoso.
6. ¿Existen regulaciones para combatir la difusión de estas imágenes falsas?
Si bien se están implementando algunas regulaciones para abordar este problema, aún queda mucho por hacer. Es necesario seguir trabajando en conjunto con las autoridades, las plataformas de redes sociales y la sociedad en general para combatir el uso indebido de la Inteligencia Artificial en la creación y difusión de contenido falso.