Chema Alonso nos explica cómo detectar los deepfakes

Chema Alonso nos explica cómo detectar los deepfakes
Martes, 22 de junio 2021

En el marco de la OpenExpo Virtual Experience 2021, Chema Alonso (CDCO de Telefónica) impartió una conferencia sobre la detección de los llamados "deepfakes" y cómo pueden influir en la ciberseguridad.

¿Cómo de fácil es suplantar identidades con Inteligencia Artificial? ¿Quién no ha visto algún vídeo de un personaje famoso diciendo algo que resultó que no lo dijo él? ¿Qué cómo puede pasar esto? Por el fenómeno de los deepfakes. La tecnología del deep fake usa la inteligencia artificial para generar, por ejemplo, vídeos que funden la cara de una persona con el cuerpo de otra o audios con una voz clonada que dice palabras que nunca se pronunciaron.

Los vídeos deepfakes se han convertido en la técnica más sofisticada para crear noticias falsas y, debido a la gran vitalidad con la que se propagan en internet y en redes sociales, esto supone un peligro por la desinformación que puede provocar y porque puede influir notablemente en el aumento de ciberataques que pueden resultar cruciales para la seguridad de empresas y usuarios.

Hasta julio de 2019 había menos de 15.000 deepfakes circulando por la web. Un año después, la cifra creció a casi 50.000. El 96% son pornográficos, y solamente en 2020 se detectaron más de mil fakes por mes en sitios de pornografía, siendo las principales víctimas celebridades e influencers.

Por esta razón, ahora más que nunca, se necesitan profesionales preparados para el mundo digital para trabajar contra la difusión de bulos y mentiras como son los deepfakes o las fake news. Además de tener en cuenta que es crucial preparar también a los consumidores.

 La detección de deepfakes, según Chema Alonso

Para la detección de estos vídeos se suelen considerar dos formas de análisis: análisis forense de las imágenes y extracción de datos biológicos a partir de imágenes. Uno de esos profesionales que ha profundizado más en el tema es el reconocido experto en ciberseguridad Chema Alonso, CDCO de Telefónica, que, junto a su equipo de Ideas Locas, han desarrollado un plug-in de Chrome para que un usuario pueda seleccionar un vídeo por Internet y ejecutar distintos algoritmos de detección de deepfakes, basados en el análisis forense de imágenes.

Este plug-in implementa cuatro investigaciones científicas:

  • FaceForensics++: Que nos permitirá comprobar deepfakes en base a un modelo entrenado sobre su propia base de datos, y aumentarla a medida que vayamos procesando nuevos vídeos.
  • Exposing DeepFake Videos by Detecting Face Warping Artifacts: Dado que los algoritmos de deepfakes actuales solo pueden generar imágenes de resoluciones limitadas, dejan artefactos distintivos en los vídeos deepfake. Esta herramienta es capaz de detectarlos con un modelo de CNN.
  • Exposing Deep Fakes Using Inconsistent Head Poses: Los deepfakes se realizan con un swap entre una cara original y una cara sintetizada, por lo que esto introduce errores en la detección de la pose de la cabeza en 3D. Con estas incoherencias, y gracias al modelo HopeNet, se hace un estudio estadístico entre los distintos vectores calculados.
  • CNN-generated images are surprisingly easy to spot...for now: Dadas las características especiales de las imágenes creadas por 11 modelos distintos de generadores basados en CNNs, un clasificador de imágenes estándar puede generalizar bien a otras arquitecturas. De esta manera se confirmó que las imágenes actuales generadas por CNN comparten defectos sistemáticos, evitando que logren una síntesis realista.

Los deepfakes ya forman parte de la sociedad. Ya hemos visto que las técnicas de Inteligencia Artificial y Machine Learning se pueden aplicar a la ciberseguridad, de hecho, diversos grupos criminales los están utilizando para intentar desestabilizar relaciones internacionales con ciberataques. Y es que, a pesar del gran número de investigaciones y de profesionales que se dedican a su estudio, todavía quedan muchos años de mejora. Como comenta Chema Alonso, “esto empieza a ser real, Black Mirror Style. Si no nos podemos fiar de lo que vemos, ¿qué nos queda?”.

Chema Alonso impartió esta conferencia en exclusiva en la inauguración de OpenExpo Virtual Experience 2021, evento empresarial líder en innovación tecnológica, transformación digital y open source. Este evento, que ha celebrado su octava edición, segunda en virtual, ha contado con la participación de más de 140 profesionales y con más de 4000 asistentes virtuales.

Deepfake, un desafío para la ciberseguridad

En el ámbito de ciberseguridad, la tendencia al uso de la tecnología con estos fines ha despertado una gran preocupación como, por ejemplo, la influencia que puede tener en las grandes empresas y multinacionales. Por todo esto, disponer de una estrategia de ciberseguridad es fundamental para garantizar la integridad de los datos e información de cualquier usuario y de cualquier empresa, así como, saber cómo actuar frente a cualquier amenaza. Con la llegada del deepfake, muchas empresas se han visto obligadas a modificar sus estrategias para añadir nuevos protocolos contra el fraude digital.


PHD 29 de septiembre 2021
 
Grupo Control