Deepfake: la nueva ingeniería social

Probablemente viste en tu red social preferida, un video de la película El resplandor. En él se hace una comparación. De un lado aparecen metrajes de la actuación de Jack Nicholson como Jack y en el otro lado, Jim Carrey caracterizando al mismo personaje, pero en metrajes de la misma calidad que la original ¿De verdad se rodaron escenas-imitación de El resplandor? En realidad, no. Lo que sucedió fue la hábil implementación de una técnica de superposición digital de la cara de Jim Carrey sobre el cuerpo de Jack Nicholson en los metrajes originales. El resultado se logró por medio de Inteligencia Artificial, y se le conoce como deepfake.

Aunque el video de Jim Carrey fue realizado para una especie de entretenimiento viral, utilizar algoritmos que pueden aprender y tomar decisiones sin supervisión (deep learning) para falsificar material audiovisual abre la puerta a nuevas posibilidades de ingeniería social. A este tipo de algoritmos se le conocen como RGAs, Redes Generativas Antagónicas, las cuales compiten entre sí para aprender y evolucionar por sí mismas.

Si utilizamos algoritmos RGAs para aprender sobre los movimientos faciales y les proveemos de una base de datos pública como VoxCeleb, que contiene más de un millón de expresiones de esos rostros en diferentes contextos: riendo, cambiando de pose, haciendo gestos y moviendo la cabeza, el resultado es una aplicación que te permite darle movimiento a cualquier imagen. Incluso con la base de datos correcta, se puede falsificar la voz.

Ingeniería social más sofisticada

Según el testimonio de un especialista de seguridad de Eset, el CEO de una compañía británica de verdad creyó que estaba hablando por teléfono con el director de una matriz en Alemania. Terminó transfiriendo, inmediatamente, una cantidad nada insignificante de dólares a un supuesto proveedor. Fue un total engaño bien planificado y en el cual se implementó tecnología deep learning para superponer la voz correspondiente y concretar un fraude exitoso.

¿Qué podemos hacer para contrarrestar esta sofisticada técnica de ingeniería social? Con algoritmos, por supuesto. Inteligencia Artificial vs Inteligencia Artificial es la respuesta al deepfake; crear una solución que sea capaz de reconocer material falsificado sin depender de la intuición humana. Un factor que puede ayudar es el parpadeo. Hasta ahora, el parpadeo es mucho menor en un video fake que en uno real. Así que un algoritmo puede detectar patrones de parpadeo y así determinar si el video es falso o verdadero.

Facebook y Microsoft ya tomaron la iniciativa. Ambas compañías anunciaron a principios del 2019 que colaborarán con las mejores universidades de los EE. UU. para crear una gran base de datos de videos falsos para su correspondiente investigación.

Fake news

Además del potencial uso para el fraude, el deepfake tiene una amplia aplicación política al ser utilizado para engañar a la opinión pública. Según un informe de tecnología del MIT un dispositivo capaz de hacer contenido falso realista es, básicamente, un arma con profundos objetivos políticos y sociales “para proveedores de noticias falsas que desean influir en todo, desde el precio de las acciones hasta las elecciones».

Mantenerse actualizado en temas de seguridad es ya una obligación. De no estar al tanto de las amenazas avanzadas que tocan a nuestras puertas, no podremos hacerles frente. Es necesario trabajar junto a la comunidad, desarrolladores, fabricantes y expertos del sector; capacitar y concientizar tanto a empleados como a proveedores, porque es un hecho que la nueva ingeniería social ha llegado.

Conoce más acerca de las herramientas, soluciones y estrategias que están a tu alcance para proteger tu empresa u organización; comunícate con un experto S4B enviándonos un correo a contact@silent4business.com, y escríbenos sobre tu situación.