Investigadores crean sistema para detectar fotos falsas con IA

Investigadores desarrollaron una inteligencia artificial capaz de detectar imágenes falsas con apenas tres minutos de entrenamiento, reduciendo costos y mejorando la adaptación a nuevos generadores.

Un equipo de la Washington University in St. Louis presentó SimLBR, un modelo de inteligencia artificial diseñado para identificar imágenes falsas mediante un enfoque diferente al de los detectores tradicionales, logrando resultados con menor tiempo de entrenamiento y menor demanda de recursos computacionales.

Una nueva estrategia para detectar imágenes falsas

La detección de contenido generado por inteligencia artificial se ha convertido en uno de los principales desafíos tecnológicos. Ante la rápida evolución de los generadores de imágenes, los investigadores desarrollaron SimLBR, una herramienta que aprende cómo son las imágenes reales para identificar aquellas que se alejan de ese patrón.

El modelo fue presentado durante la IEEE/CVF Conference on Computer Vision and Pattern Recognition por especialistas de la Washington University in St. Louis en colaboración con investigadores del Oak Ridge National Laboratory.

Cómo funciona SimLBR

A diferencia de otros sistemas, SimLBR trabaja en un espacio conocido como espacio latente, donde transforma cada imagen en un vector de 1,024 dimensiones mediante un modelo fundacional.

Este proceso permite reducir significativamente la cantidad de información que debe analizar la inteligencia artificial, disminuyendo el tiempo de entrenamiento y el consumo de recursos.

Según los investigadores, el sistema clasifica como sintéticas aquellas imágenes que se desvían de la distribución habitual de fotografías reales.

Menos tiempo y menor costo computacional

Uno de los principales avances de SimLBR es la velocidad de entrenamiento.

De acuerdo con los desarrolladores, el modelo requiere menos de tres minutos de entrenamiento utilizando una sola GPU, mientras que otros métodos avanzados pueden necesitar hasta dos horas de procesamiento en ocho GPU.

Esta diferencia representa una reducción importante en costos computacionales y facilita la implementación de sistemas de detección más eficientes.

Preparado para enfrentar futuras generaciones de IA

Los investigadores explican que muchos detectores actuales pierden eficacia cuando aparecen nuevos generadores de imágenes artificiales.

Para resolver este problema, SimLBR no busca características específicas de una tecnología determinada, sino que analiza qué tan lejos se encuentra una imagen de los patrones observados en fotografías reales.

Este enfoque permite mejorar la capacidad de adaptación frente a futuras herramientas de generación de contenido sintético.

Nuevas métricas para evaluar la detección

El equipo también desarrolló indicadores para medir la eficacia del sistema frente a desafíos futuros.

Entre ellos destacan la fiabilidad, que evalúa la precisión y el nivel de incertidumbre del detector, y el rendimiento en el peor caso, diseñado para estimar cómo responderá la herramienta ante generadores de inteligencia artificial que aún no existen.

Los investigadores consideran que estas métricas permiten evaluar no solo el desempeño actual del sistema, sino también su resistencia ante la evolución constante de la tecnología.

La propuesta de SimLBR representa un nuevo paso en la búsqueda de herramientas capaces de combatir la desinformación visual y verificar la autenticidad de imágenes en un entorno digital donde la inteligencia artificial avanza rápidamente.

Noticias del tema