Con el avance de las herramientas de inteligencia artificial, los deepfakes se convierten en una creciente amenaza en formatos de audio, video y fotos. Sin embargo, atrapar a los verdaderos perpetradores resulta casi imposible debido a la forma en que las herramientas cibernéticas permiten oscurecer las huellas de origen. A continuación, te explicamos por qué.
¿Qué tan fácil es crear un deepfake hoy en día? Un deepfake es mucho más sofisticado que un simple contenido modificado. Como resultado, requieren más datos, generalmente de expresiones faciales y físicas, así como herramientas de hardware y software potentes. Aunque esto los hace más difíciles de crear, las herramientas de inteligencia artificial generativa están cada vez más disponibles. Dicho esto, los deepfakes verdaderos, que son difíciles de detectar, como el video que recientemente apuntó al actor Rashmika Mandanna, requieren esfuerzos específicos, ya que para lograr una morfología precisa de las expresiones faciales, movimientos y otros artefactos de video se necesitan hardware sofisticado y habilidades especializadas.
¿Por qué son tan difíciles de detectar? El contenido de los deepfakes generalmente se crea para apuntar a una persona o una causa específica. Los motivos incluyen la difusión de desinformación política, el objetivo de figuras públicas con contenido sexual o la publicación de contenido modificado de individuos con una gran cantidad de seguidores en las redes sociales para chantaje. Dado lo realistas que parecen, los deepfakes pueden pasar como reales antes de que se realice un examen forense. La mayoría de los deepfakes también replican la voz y los movimientos físicos de manera muy precisa, lo que dificulta aún más su detección. Esto, junto con el alcance exponencial del contenido en las plataformas populares de redes sociales, hace que los deepfakes sean difíciles de detectar.
¿La inteligencia artificial generativa ha facilitado el acceso a los deepfakes? Sí. Aunque la inteligencia artificial generativa no nos ha brindado las herramientas para crear videos y clips de audio morfológicamente precisos en segundos, estamos llegando allí. La aplicación de edición de fotos Prisma utiliza una técnica llamada Difusión Estable para modificar selfies. La plataforma Vall-E de Microsoft solo necesita tres segundos de la voz de un usuario para generar un discurso más largo y que suene auténtico.
¿Qué tácticas tecnológicas utilizan los creadores de deepfakes? Los deepfakes son muy difíciles de rastrear debido a la forma en que funciona Internet. La mayoría de las personas que crean deepfakes tienen intenciones maliciosas específicas y muchas herramientas para ocultar el contenido original. El seguimiento de la huella digital puede llevar a una dirección de Protocolo de Internet (IP) que suele ser colocada por el perpetrador para confundir posibles investigaciones y búsquedas. Aquellos que crean deepfakes utilizan tácticas avanzadas para eliminar cualquier firma digital de su ubicación que pueda llevar a investigaciones hacia ellos, manteniendo así su identidad en el anonimato.
Preguntas frecuentes
¿Qué se puede hacer si eres el objetivo de un deepfake?
El 7 de noviembre, el Ministro de Estado de Tecnología de la Información de la Unión, Rajeev Chandrasekhar, sugirió que las personas presenten denuncias y busquen protección legal contra los deepfakes. La Sección 66D de la Ley de Tecnología de la Información establece una pena de prisión de tres años y una multa de ₹1 lakh por “engaño por suplantación de identidad”. Se ha instado a las empresas a eliminar los deepfakes dentro de las 36 horas posteriores a un informe de los usuarios, o de lo contrario perderán su protección de puerto seguro. Aunque India no tiene una ley específica sobre los deepfakes, existen varias leyes vigentes que se pueden aplicar.
Fuente: [URL de la fuente]