En 2017, un usuario de la plataforma Reddit, comenzó a crear videos manipulados de celebridades, colocando caras de personas famosas en situaciones de índole pornográfica, contenido que sería conocido como deepfakes, una tecnología de suplantación.
Desde ese año, el profesor investigador Jacob Bañuelos de la Escuela de Humanidades y Educación del Tec de Monterrey, comenzó a realizar investigaciones sobre el concepto, los usos que se le dan a esta tecnología y la bibliografía publicada sobre el tema.
El profesor explica que los deepfakes son productos generados por algoritmos y que buscan sustituir sonidos, textos, imágenes o videos con contenido falso, pero que −a simple vista− parece auténtico.
Bañuelos señala dentro de una de sus investigaciones: Deepfake: la imagen en tiempos de la posverdad, realizada del 2017 al 2021, que la tecnología revela «un escenario emergente, evolutivo, cambiante, altamente dinámico y progresivo del deepfake, como instrumento político, pieza de entretenimiento, activismo y arma de acoso que plantea nuevos retos tecnológicos, éticos, legales y culturales».
Beneficios y daños provocados por los deepfakes
Desde montajes hasta audios de artistas fallecidos cantando canciones contemporáneas, este tipo de contenido abunda en la red y está presente en el comercio, la moda, la educación y hasta el turismo.
Tan solo del 2019 al 2020 se incrementó al doble la cantidad de deepfakes, de los cuales el 96% son contenido pornográfico e incluso existen sitios dedicados enteramente a ese tema.
Dentro de los géneros más comunes encontrados en la investigación de Bañuelos se encuentra la pornografía no consensuada, porno-extorsión, denuncia, performances virtuales, retratos vivientes, campañas sociales, parodias de entretenimiento, anti-propaganda, declaraciones políticas, sátira política y arte.
En el tema de entretenimiento también se ha creado contenido falso sobre personajes famosos y en el ámbito político se utilizó para desprestigiar a figuras como Nancy Pelosi, Barack Obama y Donald Trump, entre otros
También en otras áreas preocupantes, como la suplantación de identidad, la generación de contenido delictivo, la extorsión o la desinformación.
Sin embargo, explica que los deepfakes también han sido utilizados dentro de campañas sociales y de concientización como en el caso de una campaña con el futbolista David Beckham en contra de la malaria.
De igual manera, en 2020, la organización de derechos humanos Propuesta Cívica, utilizó esta tecnología para crear una imagen de Javier Valdez, periodista que fue asesinado en 2017 y aparecía en el video criticando la violencia contra el gremio.
Este uso benéfico de esta tecnología, es abordada por Bañuelos desde la necesidad de darle un nuevo nombre.
Mientras que el término deepfake hace referencia a algo falso y tiene una connotación negativa, el profesor propone que se utilice un término para estas acciones positivas o de concientización, llamado synthetic media o medios sintéticos.
El panorama actual y futuro de la tecnología de suplantación
Bañuelos explica que existe una tendencia de hacer un uso cada vez mayor de esta tecnología, a raíz de la evolución de tecnología de Inteligencia Artificial.
Esta permite utilizar bases de datos para “entrenar” algoritmos que puedan replicar contenido como videos, fotos, música y otros, en ocasiones con apariencia muy similar a la realidad.
El profesor señala que este tema no solo abarca el área de la tecnología, sino que tiene impactos y repercusiones en diferentes campos como las ciencias sociales y las humanidades.
“Este tipo de tecnología está en las humanidades, por ejemplo, en el derecho o también está creciendo en el campo de la comunicación y los medios digitales, así como también en el arte”, dice.
Este panorama no solo presenta oportunidades sino también retos, como la falta de legislación que pueda regular su uso, aunque ya existan esfuerzos en algunos lugares, principalmente de Estados Unidos, Europa y Asia.
Empresas y grupos desde Facebook, Amazon Web Services, Wall Street Journal y Microsoft han iniciado programas para buscar la detección de deepfakes y la posible desinformación ocasionada por los mismos.
Bañuelos añade un área crucial, la de la alfabetización y la concientización, que pueda tener un impacto en que los ciudadanos sean capaces de discernir entre el contenido auténtico y los deepfakes, además de que aprenda y busquen la información en fuentes confiables.
“No podemos esperar que la tecnología resuelva esto. Cada día los algoritmos van avanzando y va a ser muy complicado que existan programas o maneras de evitar que existan los deepfakes, por eso la educación es importante», dice el investigador.
