La inteligencia artificial es capaz de crear imágenes que los humanos no pueden distinguir de las fotografías. Fuente: Michael Schwettmann
Todo lo que se necesita es un simple comando de texto: en un abrir y cerrar de ojos, la inteligencia artificial puede generar una imagen que parece una foto real y es indistinguible para los ojos humanos. Si bien esto es fascinante, fundamentalmente cuestiona la autenticidad de cada imagen.
Para su doctorado, recibió su doctorado en el Departamento de Ciencias de la Computación de la Universidad Ruhr en Bochum, Jonas Ricker se especializa en el reconocimiento técnico de imágenes falsas. Busca formas de distinguir las fotos y videos generados artificialmente de los reales. “Rubin”, revista científica de la Universidad Ruhr de Bochum, Alemania, contiene el articulo en su proyecto.
Al ruido gaussiano y viceversa
El llamado modelo de difusión para la generación de imágenes es muy popular hoy en día debido a la aplicación Stable Diffusion. “El principio básico puede parecer sorprendente a primera vista”, dice Ricker. “La imagen real se disipa paso a paso mediante adiciones sucesivas de ruido gaussiano, de ahí el nombre. Unos cientos de pasos más tarde, la información de la imagen se elimina por completo y la imagen es solo ruido. El objetivo del modelo ahora es revertir este proceso para reconstruir la imagen original, un desafío difícil”.
La clave no es predecir la imagen directamente, sino procesarla paso a paso, de la misma manera que se agregó el ruido. Armado con suficientes datos de entrenamiento, el modelo puede aprender cómo hacer que una imagen ruidosa sea un poco menos ruidosa. A través del uso repetido, se pueden crear imágenes completamente nuevas a partir de ruido aleatorio.
Exposición de perfiles de redes sociales falsos
“El modelo de difusión ya funciona muy bien en la generación de imágenes engañosamente reales y seguirá mejorando en el futuro”, dice Ricker. Esto hará aún más difícil distinguir las imágenes reales de las generadas artificialmente.
Ricker actualmente está probando diferentes enfoques para distinguir las imágenes generadas por modelos de las fotos reales. Distinguir entre imágenes reales y falsas es importante no solo para exponer noticias falsas, como las que se entregan en forma de videos, sino también para exponer perfiles de redes sociales falsos. Dichos perfiles se utilizan a gran escala para manipular la opinión pública, por ejemplo, en asuntos políticos.
“De eso se trata el Clúster de Excelencia de CASA: exponer a atacantes a gran escala como gobiernos o servicios de inteligencia que tienen los recursos para usar falsificaciones profundas para difundir propaganda”, dice Ricker.