OpenAI detiene la generación de videos de Sora sobre Martin Luther King Jr.
Créditos de la imagen: Rolls Press/Popperfoto
OpenAI anunció el jueves que había pausado la capacidad de los usuarios para generar videos que se asemejen al difunto activista de los derechos civiles Martin Luther King Jr. utilizando su modelo de video AI Sora. La empresa dijo que estaba añadiendo esta medida de seguridad a solicitud del patrimonio de Dr. King después de que algunos usuarios de Sora generaran “representaciones despectivas” de su imagen.
“Aunque hay fuertes intereses de libertad de expresión en la representación de figuras históricas, OpenAI cree que las figuras públicas y sus familias deben tener el control final sobre cómo se utiliza su imagen”, dijo OpenAI en un tweet desde su cuenta oficial de noticias. “Los representantes autorizados o los propietarios del patrimonio pueden solicitar que su imagen no se utilice en cameos de Sora”.
Esta restricción llega solo unas semanas después de que OpenAI lanzara su plataforma de video social, Sora, que permite a los usuarios crear videos realistas generados por AI que se asemejen a figuras históricas, sus amigos y los usuarios que han elegido que su imagen se recree en la plataforma. El lanzamiento ha generado un debate público feroz sobre los peligros de los videos generados por AI y cómo deben implementarse las medidas de control en estas tecnologías.
Dr. Bernice King, hija de Dr. King, publicó en Instagram la semana pasada pidiendo a la gente que dejara de enviarle videos AI que se asemejen a su padre. Se unió a la hija de Robin Williams, quien también solicitó a los usuarios de Sora que dejaran de generar videos AI de su padre.
El Washington Post informó anteriormente esta semana que los usuarios de Sora habían creado videos AI de Dr. King haciendo ruidos de mono y luchando con otro icono de los derechos civiles, Malcolm X. Al navegar por la aplicación Sora de OpenAI, es fácil encontrar videos groseros que se asemejan a otras figuras históricas, incluyendo al artista Bob Ross, la cantante Whitney Houston y al ex presidente John F. Kennedy.
El licenciatario del patrimonio de Dr. King no respondió inmediatamente a la solicitud de comentarios de TechCrunch.
Más allá de cómo Sora representa a los humanos, el lanzamiento también ha suscitado una avalancha de preguntas sobre cómo deben manejar las plataformas de redes sociales los videos AI de obras protegidas por derechos de autor. La aplicación Sora también está llena de videos que representan dibujos animados como SpongeBob, South Park y Pokémon.
OpenAI ha añadido otras restricciones a Sora en las semanas desde su lanzamiento. A principios de octubre, la empresa dijo que planeaba dar a los titulares de derechos de autor un control más granular sobre los tipos de videos AI que pueden generarse con su imagen. Esto podría haber sido una respuesta a la reacción inicial de Hollywood a Sora, que no fue muy positiva.
Mientras OpenAI añade restricciones a Sora, la empresa parece estar adoptando un enfoque más permisivo en la moderación del contenido en ChatGPT. OpenAI anunció esta semana que permitirá a los usuarios adultos tener “chats eróticos” con ChatGPT en los próximos meses.
Con Sora, parece que OpenAI está lidiando con las preocupaciones que surgen con la generación de videos AI. Algunos investigadores de OpenAI discutieron públicamente sobre las preguntas que surgen con la primera plataforma de redes sociales impulsada por AI de la empresa en los días siguientes al lanzamiento, y cómo encaja este producto en la misión de la organización sin fines de lucro. El CEO de OpenAI, Sam Altman, dijo que la empresa sentía “trepidación” el día del lanzamiento.
Nick Turley, el jefe de ChatGPT, me dijo anteriormente este mes que la mejor manera de enseñar al mundo sobre una nueva tecnología es ponerla en el mundo. Dijo que eso es lo que aprendió con ChatGPT, y que OpenAI también lo está aprendiendo con Sora. Parece que la empresa está aprendiendo algo sobre cómo distribuir esta tecnología, también.