No puedes difamar a los muertos. Pero eso no significa que debas crearles deepfakes.
Créditos de la imagen: Curly_photo / Getty Images
Zelda Williams, hija del actor Robin Williams, tiene un mensaje conmovedor para los fans de su padre.
“Por favor, dejen de enviarme videos de AI de papá. Dejen de creer que quiero verlo o que lo entenderé. No lo entiendo y no lo haré,” escribió en una historia de Instagram el lunes. “Si tienen algún decoro, dejen de hacer esto. Es tonto, es una pérdida de tiempo y energía, y créanme, no es lo que él querría.”
Probablemente no sea una coincidencia que Williams haya decidido publicar esto solo unos días después del lanzamiento del modelo de video Sora 2 de OpenAI y la aplicación social Sora, que permite a los usuarios generar videos altamente realistas de sí mismos, de sus amigos y de ciertos personajes de dibujos animados.
Esto también incluye a personas fallecidas, quienes parecen ser un objetivo justo porque no es ilegal difamar a los muertos, según el Centro de Prensa Estudiantil.
Sora no te permitirá generar videos de personas vivas — a menos que sea de ti mismo o de un amigo que te haya dado permiso para usar su imagen (o “cameo,” como llama OpenAI). Pero estas limitaciones no se aplican a los muertos, quienes pueden ser generados sin muchos obstáculos. La aplicación, que aún solo está disponible por invitación, ha sido inundada con videos de figuras históricas como Martin Luther King Jr., Franklin Delano Roosevelt y Richard Nixon, así como de celebridades fallecidas como Bob Ross, John Lennon, Alex Trebek y, sí, Robin Williams.
No está claro cómo OpenAI decide cuándo generar videos de personas fallecidas. Sora 2 no generará, por ejemplo, videos del ex presidente Jimmy Carter, quien murió en 2024, ni de Michael Jackson, quien murió en 2009, aunque sí creó videos con la apariencia de Robin Williams, quien murió en 2014, según las pruebas de TechCrunch. Y aunque el cameo de OpenAI permite a las personas establecer instrucciones sobre cómo aparecen en los videos generados por otros — barreras que llegaron como respuesta a la crítica temprana de Sora — los muertos no tienen tales derechos. Apostaría a que Richard Nixon se daría la vuelta en su tumba si pudiera ver el deepfake que hice de él abogando por la abolición de la policía.
Deepfakes de Richard Nixon, John Lennon, Martin Luther King Jr. y Robin Williams
OpenAI no respondió a la solicitud de TechCrunch sobre la permisibilidad de deepfaking a personas muertas. Sin embargo, es posible que deepfaking a celebridades muertas como Williams esté dentro de las prácticas aceptables de la empresa; precedentes legales muestran que la empresa probablemente no sería responsable de la difamación de los muertos.
“Ver cómo las legacías de personas reales se reducen a ‘esto se parece vagamente a ellos, así que eso es suficiente,’ solo para que otras personas puedan crear basura de TikTok manipulando sus imágenes es enloquecedor,” escribió Williams.
Los críticos de OpenAI acusan a la empresa de tomar un enfoque rápido y suelto sobre estos temas, lo que llevó a que Sora se inundara rápidamente con clips de AI de personajes de derechos de autor como Peter Griffin y Pikachu tan pronto como se lanzó. El CEO Sam Altman dijo originalmente que las industrias de Hollywood y las agencias necesitarían optar explícitamente por no incluir su IP en los videos generados por Sora. La Asociación de la Industria Cinematográfica ya ha pedido a OpenAI que tome medidas sobre este problema, declarando en un comunicado que “las leyes de derechos de autor bien establecidas protegen los derechos de los creadores y se aplican aquí.” Ha dicho desde entonces que la empresa añadirá controles de derechos de autor más granulares.
Sora es, tal vez, el modelo de deepfake más peligroso accesible al público hasta ahora, dado lo realistas que son sus salidas. Otras plataformas como xAI van por detrás, pero tienen menos barreras que Sora, lo que permite generar deepfakes pornográficos de personas reales. A medida que otras empresas alcanzan a OpenAI, establecemos un precedente aterrador si tratamos a las personas — vivas o muertas — como nuestros propios juguetes personales.