Tendemos a confiar en el contenido de las grabaciones de audio y video. Pero con la IA, la cara o la voz de cualquier persona se pueden recrear con una precisión milimétrica. El producto es un deepfake, una suplantación de identidad que se puede utilizar para memes, desinformación o pornografía.
Una mirada al Nicholas Cage deepfakes o de Jordan Peele PSA de deepfake deja claro que estamos tratando con una nueva tecnología extraña. Estos ejemplos, aunque relativamente inofensivos, plantean interrogantes sobre el futuro. ¿Podemos confiar en el video y el audio? ¿Podemos responsabilizar a las personas por sus acciones en pantalla? ¿Estamos preparados para los deepfakes?
Los deepfakes son nuevos, fáciles de hacer y crecen rápidamente
La tecnología Deepfake tiene solo unos años, pero ya se ha convertido en algo cautivador e inquietante a la vez. El término «deepfake», que se acuñó en un hilo de Reddit en 2017, se utiliza para describir la recreación de la apariencia o la voz de un humano a través de la inteligencia artificial. Sorprendentemente, casi cualquier persona puede crear un deepfake con una PC de mala calidad, algo de software y unas pocas horas de trabajo.
Lo crea o no, la imagen de la izquierda es el deepfake.
Al igual que con cualquier tecnología nueva, existe cierta confusión en torno a los deepfakes. El video de «Pelosi borracha» es un excelente ejemplo de esta confusión. Los deepfakes son construidos por IA y están hechos para hacerse pasar por personas. El video «dunk Pelosi», al que se ha hecho referencia como deepfake, es en realidad solo un video de Nancy Pelosi que se ha ralentizado y corregido de tono para agregar un efecto de habla arrastrada.
Esto es también lo que hace que deepfakery sea diferente de, digamos, el CGI Carrie Fisher en Star Wars: Rogue One. Mientras Disney gastó montones de dinero en estudiar el rostro de Carrie Fisher y recrearlo a mano, un nerd con algún software deepfake puede hacer el mismo trabajo gratis en un solo día. La IA hace que el trabajo sea increíblemente simple, económico y convincente.
Cómo hacer un deepfake
Como un estudiante en un salón de clases, la IA tiene que «aprender» cómo realizar su tarea prevista. Lo hace a través de un proceso de prueba y error de fuerza bruta, generalmente denominado aprendizaje automático o aprendizaje profundo. Una IA diseñada para completar el primer nivel de Super Mario Bros, por ejemplo, jugará el juego una y otra vez hasta que encuentre la mejor manera de ganar. La persona que diseña la IA debe proporcionar algunos datos para comenzar, junto con algunas «reglas» cuando las cosas van mal en el camino. Aparte de eso, la IA hace todo el trabajo.
Lo mismo ocurre con la recreación facial deepfake. Pero, por supuesto, recrear caras no es lo mismo que vencer a un videojuego. Si tuviéramos que crear un deepfake de Nicholas Cage presentando el programa de Wendy Williams, esto es lo que necesitaríamos:
Un video de destino: a partir de ahora, los deepfakes funcionan mejor con videos de destino claros y limpios. Es por eso que algunos de los deepfakes más convincentes son los de los políticos; tienden a quedarse quietos en un podio bajo una iluminación constante. Entonces, solo necesitamos un video de Wendy sentada y hablando.
Dos conjuntos de datos: para que los movimientos de la boca y la cabeza parezcan precisos, necesitamos un conjunto de datos del rostro de Wendy Williams y un conjunto de datos del rostro de Nicholas Cage. Si Wendy mira a la derecha, necesitamos una foto de Nicholas Cage mirando a la derecha. Si Wendy abre la boca, necesitamos una foto de Cage abriendo la boca.
Después de eso, dejamos que la IA haga su trabajo. Intenta crear el deepfake una y otra vez, aprendiendo de sus errores en el camino. Simple, ¿verdad? Bueno, un video de la cara de Cage en Wendy William