Ya no podemos creer en lo que ven nuestros propios ojos.
Pero ahora la tecnología tuvo que buscar una forma de defenderse a sí misma.
Millones de usuarios ven a diario videos muy reales hechos por software sin saber de dónde vienen ni por qué se publican.
La buena noticia es que los sistemas de inteligencia artificial cometen pequeños patrones al generar las imágenes, lo que deja pistas que permiten saber qué herramienta se usó para crearlas.
¿Será este el primer paso para devolver la confianza en lo que vemos en las pantallas?
No basta con saber que el video es falso
Cualquier video o imagen que se vuelva viral y que haya sido creada con IA puede causar mucha confusión en las redes sociales en muy poco tiempo.
Comprobar que una imagen es artificial ayuda a evitar la difusión de noticias falsas al principio.
Pero la verdad es que esto no sirve si no se sabe de dónde proviene el archivo.
Sin una fuente clara, es muy difícil saber si el contenido fue hecho con un modelo de acceso público, con un programa de pago o con un sistema personalizado usado para manipular grandes grupos de personas.
Conocer exactamente la herramienta que lo creó permite a las empresas tecnológicas saber qué versión del modelo se utilizó y comprender mejor el origen del contenido para apoyar las investigaciones sobre su difusión.
Cada generador deja errores distintos entre un fotograma y el siguiente
Para lograr este nivel de precisión, los científicos crearon un marco llamado SAGA.
Este sistema utiliza una debilidad de los modelos generativos.
Aquí, aunque parezca que la escena es fluida, cada modelo generativo deja pequeñas huellas o patrones característicos al crear las imágenes.
La tecnología examina los detalles dentro de cada cuadro y cómo encajan todos los cuadros a lo largo del tiempo.
En Google Research, se puede observar cómo los investigadores desarrollaron el sistema utilizando una técnica llamada «Firmas de Atención Temporal».
Al analizar los patrones visuales y los movimientos de varios clips, SAGA puede atribuir el origen de los videos sintéticos mediante cinco niveles de identificación:
- Real o sintético: determina si el video proviene de una cámara real o fue generado mediante inteligencia artificial.
- Modalidad de entrada: identifica si el video se creó a partir de un texto o de una imagen.
- Familia de modelos: reconoce el tipo de modelo generativo utilizado.
- Versión específica: clasifica la versión concreta de la herramienta.
- Equipo o empresa desarrolladora: señala qué organización desarrolló el modelo.
La herramienta conoce 19 sistemas, pero la industria cambia cada semana
Durante sus primeras pruebas en laboratorio, SAGA mostró que funciona bien al analizar datos que incluyen obras de 19 generadores de inteligencia artificial diferentes.
Sin embargo, los creadores reconocen que esta tecnología está en constante competencia con el tiempo.
La industria de la inteligencia artificial cambia muy rápido y surgen continuamente nuevos modelos con técnicas más avanzadas que evitan los patrones que ya se conocen.
Además, los investigadores advierten que los archivos pueden modificarse intencionalmente con filtros, una compresión muy fuerte o recortes para dificultar la detección de las señales del generador original.
También los investigadores explican que atribuir el origen es una herramienta usada en casos forenses para descubrir qué tecnología se usó.
Esto es muy diferente de poder responsabilizar a la persona que decidió crear el video.
El desarrollo de herramientas como SAGA es un paso muy importante en la lucha contra la desinformación y el uso indebido de contenidos creados con inteligencia artificial.
Sabemos que la tecnología no solucionará todo al instante, ni podrá sustituir el pensar de la gente.
Pero, si las plataformas rastrean la huella digital de los videos, se abre un camino.
Es una forma más clara de pedirles a los creadores que sean transparentes y nos ayuda a no usar la inteligencia artificial de forma errónea.
El desarrollo de SAGA muestra que la lucha por la verdad en la era digital no consiste en prohibir la inteligencia artificial, sino en aprender a convivir con ella de forma transparente.
Conocer qué herramienta creó un video puede ayudar a comprender mejor su origen y aportar más información para evaluar su autenticidad.
Si la innovación avanza junto con la transparencia, este tipo de herramientas puede contribuir a fortalecer la confianza en los contenidos digitales sin sustituir el juicio de las personas.
¿Te ha servido este artículo?
Recibe cada semana lo que de verdad importa
Análisis de energía, clima y naturaleza en tu correo. Gratis y sin spam.
