Google ha desarrollado una herramienta llamada SynthID para abordar el problema de identificar imágenes generadas por inteligencia artificial (IA). Esta tecnología tiene como objetivo estar disponible en plataformas de generación de contenido como Midjourney y Stable Diffusion. Las marcas de agua tradicionales son insuficientes para identificar imágenes generadas por IA, ya que pueden ser editadas fácilmente. SynthID se diseñó para que no comprometa la calidad de la imagen y permita que la marca de agua sea detectable incluso después de modificaciones.
SynthID es una marca de agua digital invisible para el ojo humano que se incorpora directamente en los píxeles de una imagen. No afecta la calidad de la imagen y puede resistir ediciones posteriores. Además de permitir a los usuarios agregar una marca de agua a sus imágenes generadas por IA, la herramienta también puede analizar imágenes existentes para determinar si fueron producidas por un algoritmo de IA. Para lograrlo, utiliza dos modelos de aprendizaje profundo: uno para la creación de la marca de agua y otro para la identificación de las imágenes generadas por IA.
Google tiene previsto poner a prueba la eficacia de SynthID en casos de manipulación extrema de la imagen. Aunque los resultados iniciales de las pruebas son satisfactorios para la empresa, planean expandir esta tecnología a otros tipos de contenido, como audio, video o texto en el futuro. Inicialmente, SynthID estará disponible en versión beta para un número limitado de usuarios que utilizan el servicio Imagen de Vertex AI de Google. Google también espera que otros sistemas adopten esta tecnología en el futuro para frenar la desinformación en línea y el fraude de contenido.
Fuentes: Infobae
Definiciones:
– IA: inteligencia artificial
– Marca de agua: un tipo de identificación visual que se agrega a una imagen para protegerla de reproducciones no autorizadas o para indicar el autor o la fuente de la imagen.
