Descubren innovador método para detectar deepfakes utilizando cálculos astronómicos

Investigadores de la Universidad de Hull han desarrollado una nueva forma innovadora de detectar imágenes generadas por inteligencia artificial, especialmente aquellas conocidas como deepfakes. Según el estudio dirigido por Adejumoke Owolabi, estudiante de la institución, y supervisado por el Dr. Kevin Pimbblet, profesor de astrofísica, la clave para identificar estas falsificaciones radica en los ojos de las figuras representadas. Específicamente, se analiza la forma en que reflejan la luz, utilizando técnicas astronómicas para examinar la consistencia de la luz reflejada por el globo ocular.

El método empleado para detectar estas imágenes falsas se basa en herramientas utilizadas por astrónomos en el estudio de las galaxias, lo que resulta sorprendente debido a la complejidad y precisión requerida. Esta técnica permite analizar los reflejos de la luz en los ojos, lo que puede revelar inconsistencias en las imágenes generadas por AI. En situaciones normales, el reflejo de una fuente de luz es similar en ambos ojos, sin embargo, en deepfakes se pueden observar discrepancias en este aspecto.

Owolabi ha desarrollado una técnica que automatiza la detección de estas diferencias, analizando las características morfológicas de los reflejos y comparando la similitud entre los globos oculares izquierdo y derecho. Esta herramienta hace uso del coeficiente de Gini, utilizado tradicionalmente para medir la distribución de la luz en imágenes de galaxias, permitiendo evaluar la uniformidad de los reflejos oculares.

Aunque esta herramienta resulta útil en la actualidad para detectar deepfakes, la comunidad científica advierte que los creadores de estas falsificaciones pueden modificar los modelos de IA generativa para corregir estas inconsistencias y dificultar su detección. Como alternativa, se han propuesto otros métodos como la implementación de marcas de agua invisibles para reconocer imágenes generadas por IA, aunque aún no se ha determinado si estas medidas se generalizarán en el futuro.

En un contexto donde la manipulación digital se ha vuelto una preocupación creciente, las investigaciones como las desarrolladas en la Universidad de Hull ofrecen perspectivas interesantes para abordar este desafío. La combinación de la ciencia astronómica con la detección de deepfakes representa un avance significativo en la lucha contra la desinformación visual en la era digital.