Chema Alonso imparte una conferencia tratando temas como los deepfakes y cómo pueden influir en la ciberseguridad.

¿Cómo de fácil es suplantar identidades con Inteligencia Artificial? ¿Quién no ha visto algún vídeo de un personaje famoso diciendo algo que resultó que no lo dijo él?

¿Qué cómo puede pasar esto? Por el fenómeno de los DeepFakes.

La tecnología del DeepFake usa la inteligencia artificial para generar, por ejemplo, vídeos que funden la cara de una persona con el cuerpo de otra o audios con una voz clonada que dice palabras que nunca se pronunciaron.

Los videos DeepFakes se han convertido en la técnica más sofisticada para crear noticias falsas y, debido a la gran vitalidad con la que se propagan en internet y en redes sociales, esto supone un peligro por la desinformación que puede provocar y porque puede influir notablemente en el aumento de ciberataques que pueden resultar cruciales para la seguridad de empresas y usuarios.

Hasta julio de 2019 había menos de 15.000 deepfakes circulando por la web. Un año después, la cifra creció a casi 50.000. El 96% son pornográficos, y solamente en 2020 se detectaron más de mil fakes por mes en sitios de pornografía, siendo las principales víctimas celebridades e influencers.

Por esta razón, ahora más que nunca, se necesitan profesionales preparados para el mundo digital para trabajar contra la difusión de bulos y mentiras como son los DeepFakes o las FakeNews. Además de tener en cuenta que es crucial preparar también a los consumidores.

La detección de DeepFakes según Chema Alonso

Para la detección de estos vídeos se suelen considerar dos formas de análisis: análisis forense de las imágenes y extracción de datos biológicos a partir de imágenes.

Uno de esos profesionales que ha profundizado más en el tema es el reconocido experto en ciberseguridad Chema Alonso, CDCO de Telefónica, que, junto a su equipo de Ideas Locas, han desarrollado un plug-in de Chrome para que un usuario pueda seleccionar un vídeo por Internet y ejecutar distintos algoritmos de detección de DeepFakes, basados en el análisis forense de imágenes.

Este plug-in implementa cuatro investigaciones científicas:

  • FaceForensics++: Que nos permitirá comprobar DeepFakes en base a un modelo entrenado sobre su propia base de datos, y aumentarla a medida que vayamos procesando nuevos vídeos.
  • Exposing DeepFake Videos by Detecting Face Warping Artifacts: Dado que los algoritmos de DeepFakes actuales solo pueden generar imágenes de resoluciones limitadas, dejan artefactos distintivos en los vídeos DeepFake. Esta herramienta es capaz de detectarlos con un modelo de CNN.
  • Exposing Deep Fakes Using Inconsistent Head Poses: Los DeepFakes se realizan con un swap entre una cara original y una cara sintetizada, por lo que esto introduce errores en la detección de la pose de la cabeza en 3D. Con estas incoherencias, y gracias al modelo HopeNet, se hace un estudio estadístico entre los distintos vectores calculados.
  • CNN-generated images are surprisingly easy to spot…for now: Dadas las características especiales de las imágenes creadas por 11 modelos distintos de generadores basados en CNNs, un clasificador de imágenes estándar puede generalizar bien a otras arquitecturas. De esta manera se confirmó que las imágenes actuales generadas por CNN comparten defectos sistemáticos, evitando que logren una síntesis realista.

Los DeepFakes ya forman parte de la sociedad. Ya hemos visto que las técnicas de Inteligencia Artificial y Machine Learning se pueden aplicar a la ciberseguridad, de hecho, diversos grupos criminales los están utilizando para intentar desestabilizar relaciones internacionales con ciberataques. Y es que, a pesar del gran número de investigaciones y de profesionales que se dedican a su estudio, todavía quedan muchos años de mejora.

Y es que, como comenta Chema Alonso “esto empieza a ser real, Black Mirror Style. Si no nos podemos fiar de lo que vemos, ¿qué nos queda?”.

Chema Alonso impartió esta conferencia en exclusiva en la inauguración de OpenExpo Virtual Experience 2021, evento empresarial líder en innovación tecnológica, transformación digital y open source.

Este evento, que ha celebrado su octava edición, segunda en virtual, ha contado con la participación de más de 140 profesionales y con más de 4000 asistentes virtuales.

Deepfake, un desafío para la ciberseguridad

En el ámbito de ciberseguridad, la tendencia al uso de la tecnología con estos fines ha despertado una gran preocupación como, por ejemplo, la influencia que puede tener en las grandes empresas y multinacionales.

Por todo esto, disponer de una estrategia de ciberseguridad es fundamental para garantizar la integridad de los datos e información de cualquier usuario y de cualquier empresa, así como, saber cómo actuar frente a cualquier amenaza.

Con la llegada del Deepfake, muchas empresas se han visto obligadas a modificar sus estrategias para añadir nuevos protocolos contra el fraude digital.

DisclaimerLa información aquí presentada no supone compromiso ni recomendación alguna por parte de Territorio Bitcoin. Territorio Bitcoin no participa en las inversiones ni recibe ningún tipo de retribución. Solo ofrecemos información.

Dejar respuesta

Please enter your comment!
Please enter your name here

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.