DEEP FAKE (Ultra falso)
NATURALEZA
Expresión procedente del campo de la IA que se aplica en entornos de comunicación digital y repercute en el ámbito jurídico cuando integra una conducta contraria a Derecho o constituye desinformación.
CONCEPTO
Combina las palabras deep, de deep learning, aprendizaje profundo, y fake, falsificación.
Identifica una técnica de IA que permite crear y/o editar archivos de vídeo e imagen (deep faces) o de voz (deep voices), para aparentar que su contenido es auténtico y real, recurriendo al uso de algoritmos de aprendizaje automático. El resultado final es tan realista que consigue engañar fácilmente al receptor.
Estos archivos falsos pueden ser generados directamente por programas especializados sin intervención humana.
Se conoce desde 1990 pero no se popularizó hasta 2017, cuando un usuario de Reddit publicó contenido pornográfico falso creado con el rostro de actrices. En 2018 se viralizó un video de Buzzfeed, protagonizado por un falso Barack Obama y un Jordan Peele auténtico, que superó en YouTube los ocho millones de reproducciones.
IMPORTANCIA
Desde el punto de vista técnico, el recurso a la IA para tergiversar de forma convincente la realidad, constituye una herramienta de desinformación muy eficaz. Se considera una evolución de las fake news, que busca de forma intencionada engañar a los receptores con un objetivo concreto. A gran escala puede convertirse en un arma a disposición de los Gobiernos en supuestos de ciberguerra o guerra híbrida, pero también puede ser utilizado por lobbies o por grupos radicales. De hecho, es muy habitual su uso para la diseminación de discursos de odio.
Se trata de un conjunto de herramientas de fácil acceso y, además, gratuitas por lo que su potencial dañino es muy alto de modo que se usan,por ejemplo, para crear episodios de bullying o de acoso a personas concretas. El problema es que borrar el contenido generado no solventa el problema pues el efecto memoria generado por una mentira de este tipo repercute y cala siendo muy difícil corregirlo
Desde el punto de vista jurídico, el abuso de esta técnica constituye una amenaza real para la seguridad, el Estado de Derecho, y la democracia representativa, por su potencial para cometer delitos, propagar desinformación, promover la desconfianza ciudadana en instituciones y fuentes de información, e influir en procesos electorales.
USOS Y RIESGOS
La técnica pretende confundir o inducir a error a las personas receptoras de los archivos, con la intención de conseguir un objetivo concreto.
Entre los usos positivos cabe citar sus aplicaciones al mundo del cine y del entretenimiento. Destacan las escenas de Rogue One una historia de Star Wars (2016) en las que la Princesa Leia, interpretada por Ingvild Deila, aparece con la cara de Carrie Fisher cuando era joven, o las del personaje de la propia Carrie Fisher que falleció en el transcurso del rodaje. Existe también un mercado creciente de aplicaciones que utilizan esta técnica para la diversión: Face Swap o Reface permiten falsificar el rostro propio intercambiándolo con gifs, imágenes de famosos o memes.
No obstante, se ha utilizado mayoritariamente para la creación de contenido pornográfico falso, y se está extendiendo a otros usos negativos:difundir desinformación; desacreditar adversarios; cometer fraudes; manipular mercados; influir en procesos electorales; etc. En 2019 se perpetró el primer delito utilizando deep voices: varios ciber criminales hicieron creer a un ejecutivo que estaba hablando con el CEO de su empresa y forzaron una transferencia de 250.000 dólares. En 2020 Facebook prohibió la difusión de contenidos alterados con intención maliciosa.
AUTORES
Olaya Godoy
