Paso a paso: cómo identificar si una cara fue generada con inteligencia artificial

Científicos de la Universidad de Leeds y de Reading, ambas en el Reino Unido, publicaron una investigación en la que pusieron a prueba la habilidad de las personas para reconocer si una cara fue creada con un generador de IA. La buena noticia a la que arribó el estudio es que un lapso breve de entrenamiento mejora sustancialmente es capacidad.
.

Caras generadas con Inteligencia Artificial: “El entrenamiento ayuda a la detección”

“Las creaciones con IA son cada vez más fáciles de crear y difíciles de detectar”, señaló Eilidh Noyes, investigadora en psicología de la universidad británica. La especialista comentó que esa dificultad no es trivial, porque el contenido sintético puede utilizarse con fines maliciosos. “Por eso es crucial que, desde el punto de vista de la seguridad, probemos métodos para identificar a las imágenes artificiales”, agregó.
.

Las mencionadas problemáticas van desde intentos de ciberataques, pasando por contenido que se publica para difamar a terceros, hasta la problemática de la desinformación y el uso de contenido engañoso, entre otras.

Para el estudio, se puso a prueba la capacidad de evaluación de 664 voluntarios, entre ellos algunos “superreconocedores”, personas que demostraron más destreza para detectar imágenes sintéticas de personas. Si bien ambos grupos se toparon con dificultades en esa tarea, el grupo más habilidoso consiguió mejores resultados, como se esperaba.

Tal como señalamos, la estrategia clave es el entrenamiento. Los participantes catalogados como “superreconocedores” fueron aquellos que realizaron una sesión antes de la prueba generalizada. Una buena noticia: ese adiestramiento insumió apenas cinco minutos.

Los voluntarios recibieron consultas específicas, para identificar rostros sintéticos. Por ejemplo,en la siguiente imagen, ¿qué filas muestran caras creadas con IA y cuáles corresponden a personas reales?

La respuesta correcta revela cuán dificultosa es la detección de rostros generados con Inteligencia Artificial: solo la fila intermedia corresponde a personas del mundo real, según observa la publicación Science Alert.

Identificar rostros sintéticos: ¿cómo se entrena esta habilidad?

Los participantes que recibieron entrenamiento para el estudio fueron informados de algunas claves para reconocer si una cara fue creada con IA. Por ejemplo, una sutil, aunque reconocible, borrosidad en los bordes del pelo y la piel.

Siguiendo a la fuente, la IA suele crear caras mediante lo que se conoce como “red generativa antagónica” (GAN, por sus siglas en inglés). ¿Cómo funciona esto? Dos conjuntos de algoritmos trabajan en colaboración: uno genera los rostros y otro evalúa el realismo de sus criaturas comparándolas con personas reales. Esta retroalimentación permite que consiga resultados muy realistas.

De acuerdo a Noyes, las pruebas que realizaron demuestran que el entrenamiento ayuda a la detección de rostros de IA y así permite eludir engaños.

Por su parte, Katie Gray, de la Universidad de Reading, remarcó que calibrar el ojo es un proceso breve y fácil de implementar. “Los resultados sugieren que combinar este entrenamiento con las habilidades naturales de los superreconocedores podría ayudar a abordar problemas del mundo real, como la verificación de identidades en línea”, subrayó.

El estudio titulado Entrenamiento de la detección y discriminación de rostros generados por IA por superreconocedores humanos fue publicado en la revista Royal Society Open Science.