Esto es de esperar, especialmente después del lanzamiento de una serie de videos sorprendentemente realistas que involucran a varias celebridades que dicen cosas bastante contradictorias.
Esta tecnología realmente sorprende a la gente y genera una gran cantidad de preguntas, por eso decidimos contarte qué es Deepfake, cómo funciona y qué peligros plantea.
¿Qué es Deepfake?
Deepfake es una técnica de síntesis de imágenes basada en inteligencia artificial (IA). Utiliza el aprendizaje automático para crear o manipular contenido. La tecnología se usa a menudo para crear fotomontajes o superponer el rostro de una persona sobre otra, pero sus capacidades van mucho más allá. La técnica tiene muchos otros usos: por ejemplo, controlar o crear sonido, movimiento, paisaje, animales, etc.
¿Cómo funciona Deepfake?
El contenido deepfake se crea utilizando una técnica de aprendizaje automático conocida como GAN (Generative Adversarial Networks). Las GAN utilizan dos algoritmos, un generador y un discriminador, que compiten constantemente entre sí.
El generador intenta crear imágenes todo el tiempo, y el discriminador se encarga de encontrar las diferencias entre ellas y las muestras reales. Si el segundo algoritmo detecta una falsificación, la imagen se envía al primero para mejorarla. Este ciclo puede continuar indefinidamente hasta que la imagen, el video o el sonido ya no se perciban como falsos.
Historia deepfake
¡El primer video de Deepfake fue porno! Tenga en cuenta que con bastante frecuencia fue posible ver cómo los rostros de varias celebridades se superpusieron a las actrices de películas para adultos. También vale la pena recordar los memes sobre Nicolas Cage, que fueron muy populares.
Por primera vez, se habló de Deepfake como una seria amenaza en 2017, y todo gracias al usuario de Reddit con el sobrenombre de Deepfakes. Él, y luego otros usuarios, crearon pornografía Deepfake, lo que provocó el bloqueo del subreddit.
El verdadero creador de redes neuronales generativas antagónicas es Ian Goodfellow. Presentó el concepto por primera vez a la Universidad de Montreal en 2014, junto con sus colegas. Luego pasó a trabajar en Google y actualmente trabaja en Apple…
Peligros
Sí, no hay nada nuevo en varias manipulaciones de contenido, pero el hecho es que en el pasado esto requería habilidades serias. En primer lugar, era necesario tener una computadora potente y una muy buena razón (o simplemente una gran cantidad de tiempo libre) para crear contenido falso.
El software de creación de deepfake como FakeApp es gratuito, fácil de encontrar y no requiere una gran potencia de procesamiento de computadora. Y dado que la herramienta hace todo el trabajo por sí sola, no necesitas ser un editor o codificador experimentado para crear deepfakes que parezcan muy realistas.
Es por eso que el público en general, celebridades, organizaciones políticas e incluso gobiernos enteros de países están preocupados por un desarrollo tan ardiente de deepfakes. En las manos equivocadas, la tecnología puede usarse para falsificar mucho más que los memes tontos de Nicolas Cage. Imagínese a alguien creando noticias falsas o incriminando evidencia en video. También vale la pena recordar los videos porno falsos ya mencionados.
Otro motivo de preocupación con el deepfaking es que también puede permitir que las celebridades nieguen sus acciones pasadas. Dado que los videos deepfake parecen muy realistas, cualquiera puede afirmar que el video real es falso.
Soluciones
A pesar de que el contenido falso es muy similar al original, un buen ojo aún puede detectar un video deepfake, solo hay que mirarlo más de cerca. La preocupación, sin embargo, es que en algún momento en el futuro es posible que no podamos notar la diferencia.
Twitter, Pornhub, reddit, Facebook, YouTube y otros servicios han intentado y prometido deshacerse de dicho contenido. En un nivel más formal, la Agencia de Proyectos de Investigación Avanzada de Defensa (DARPA) está trabajando con varias instituciones de investigación y la Universidad de Colorado para crear una forma de detectar deepfakes. Por supuesto, Google Alphabet también está trabajando en un software que puede ayudar a identificar dicho contenido de manera efectiva. Alphabet llama a este servicio Ensamblador.
Además, el gobierno de EE. UU. Estaba muy preocupado por el contenido de Deepfake antes de las elecciones presidenciales ahora concluidas. Los videos e imágenes falsos podrían causar un gran revuelo entre los votantes. Especialmente durante pandemias, tensiones globales e ideas políticas altamente conflictivas.
De hecho, Estados Unidos se toma en serio la lucha contra el contenido falso. Por ejemplo, el estado de California está uniendo esfuerzos para combatir la tecnología Deepfake mediante la promulgación de varias leyes. El gobernador del estado firmó los proyectos de ley AB-730 y AB-602: el primero protege a los políticos de videos falsos que podrían tergiversarlos; el segundo protege a las víctimas de los creadores de videos pornográficos que pueden usar sus rostros para sus propios fines.
Hasta que tengamos un mejor software que pueda detectar violaciones de este tipo de video, lo mejor que podemos hacer es ser más observadores y menos crédulos.
Después de todo, encontrar una forma realmente efectiva de combatir Deepfake no es fácil. Recientemente Facebook acogió el Desafío de detección de Deepfake. El software con la puntuación más alta solo pudo lograr un 65% de precisión. Como puede ver, las perspectivas son muy escasas.
Vídeos populares de deepfake
El popular actor y comediante estadounidense Jordan Peele creó este video con Buzzfeed para instar al público a no creer todo lo que se puede ver. El video muestra a Barack Obama, el ex presidente de Estados Unidos, diciendo cosas que nunca diría, incluso llamando a Donald Trump “un completo imbécil”. El video luego revela que Obama no es exactamente quien es, y que el video es representativo de Deepfake, ¡pero muy realista!
A continuación, la experta en manipulación de Internet Claire Wardle nos muestra cuán realistas pueden verse estos videos cuando retratan a Adele dentro de los primeros 30 segundos del video. Este video de The New York Times ofrece una buena introducción a este tema.
El siguiente video muestra algunos de los videos falsos más populares. Hay muchos ejemplos excelentes de cómo se puede engañar a las personas.
¿Te gustan Rick y Morty? Aparentemente, el ex presidente de los Estados Unidos, John F. Kennedy, cree que es necesario ser un tipo realmente inteligente para comprender la caricatura. Ya sea que esté de acuerdo con él o no, puede dudar de que el verdadero presidente realmente vio la serie animada moderna.
El último video es realmente divertido, pero muy ridículo. Sin embargo, parece realista, a pesar de que no tiene ningún sentido. Pero este video demuestra perfectamente todas las capacidades de la tecnología Deepfake.
Fuente: androidauthority.com
