Jesús Augusto Sarcos Romero: Amazon se une a Facebook y a Microsoft para combatir el “deepfake”

Facebook y Amazon Web Services (AWS) integraron una alianza, junto a Microsoft, con el  objetivo investigar y desarrollar herramientas de Inteligencia Artificial (IA) que identifiquen los vídeos de Internet manipulados mediante técnicas de “deepfake”.

Durante los próximos dos años, AWS invertirá un millón de dólares (unos 900.000 euros) con el fin de "identificar mejor cuándo se utiliza la IA para alterar un vídeo que confunda al que lo ve”, así lo indicó las empresas en un comunicado.

Los vídeos de “deepfake” utilizan técnicas muy similares a las empleadas en la animación de videojuegos y películas para manipular la imagen y el sonido de un vídeo, haciendo parecer, por ejemplo, que una persona diga algo que en realidad no ha dicho. Estos sistemas, que a veces se basan solamente en una app móvil, son cada vez más realistas.

La decisión de Amazon forma parte de la primera edición de Deepfakes Detection Challenge, una competición que comenzará el próximo mes de diciembre, cuando Facebook publique un conjunto de archivos con decenas de miles de vídeos, tanto reales como falsos, con un peso total de cuatro petabytes.

AWS se comprometió a albergar esta muestra de archivos con el objetivo de ayudar a los investigadores de todo el mundo a que a través de ellos desarrollen algoritmos que detecten los vídeos manipulados mediante deepfake.

Los algoritmos desplegados y su efectividad serán evaluados con los datos obtenidos por Amazon, y los expertos podrán pedir entre 1.000 y 10.000 dólares en créditos para utilizar los servicios en la nube de Amazon en sus herramientas. La plataforma de comercio electrónico también proporcionará acceso a sus herramientas de aprendizaje automático Amazon ML Solutions Lab.

Deepfake es un acrónimo del inglés formado por las palabras fake, falsificación, y deep learning, aprendizaje profundo.​ Es una técnica de inteligencia artificial que permite editar videos falsos de personas que aparentemente son reales, utilizando para ello algoritmos de aprendizaje no supervisados, conocidos en español como RGA (Red generativa antagónica), y vídeos o imágenes ya existentes. El resultado final de dicha técnica es un video muy realista, aunque ficticio.