Sam Altman dice que ChatGPT pronto permitirá contenido erótico para usuarios adultos.
OpenAI CEO Sam Altman
OpenAI CEO Sam Altman anunció en un post en X el martes que la empresa pronto relajará algunas de las restricciones de seguridad de ChatGPT, permitiendo a los usuarios hacer que las respuestas del chatbot sean más amigables o más “humanas”, y permitir a los “adultos verificados” mantener conversaciones eróticas.
“Hicimos que ChatGPT fuera bastante restrictivo para asegurarnos de que estábamos siendo cuidadosos con los problemas de salud mental. Nos damos cuenta de que esto lo hizo menos útil/enjoyable para muchos usuarios que no tenían problemas de salud mental, pero dado la seriedad del problema queríamos hacerlo bien,” dijo Altman. “En diciembre, a medida que implementemos más ampliamente la verificación de edad y como parte de nuestro principio “tratar a los usuarios adultos como adultos”, permitiremos aún más cosas, como la erótica para adultos verificados.”
El anuncio representa un cambio significativo en el esfuerzo de OpenAI de varios meses para abordar las relaciones preocupantes que algunos usuarios mentalmente inestables han desarrollado con ChatGPT. Altman parece declarar una victoria temprana sobre estos problemas, afirmando que OpenAI ha “podido mitigar los problemas de salud mental serios” alrededor de ChatGPT. Sin embargo, la empresa no ha proporcionado ninguna evidencia para esto y ahora está avanzando con planes para que ChatGPT mantenga conversaciones sexuales con los usuarios.
Varios informes preocupantes surgieron este verano sobre ChatGPT, específicamente su modelo GPT-4o, sugiriendo que el chatbot de inteligencia artificial podría llevar a usuarios vulnerables por caminos delirantes. En un caso, ChatGPT pareció convencer a un hombre de que era un genio matemático que necesitaba salvar el mundo. En otro, los padres de un adolescente demandaron a OpenAI, alegando que ChatGPT había animado a su hijo a tener ideas suicidas en las semanas anteriores a su muerte.
En respuesta, OpenAI lanzó una serie de características de seguridad para abordar la síndrome de AI: la tendencia de un chatbot de inteligencia artificial a enganchar a los usuarios al estar de acuerdo con todo lo que dicen, incluso comportamientos negativos.
OpenAI lanzó GPT-5 en agosto, un nuevo modelo de inteligencia artificial que muestra tasas más bajas de síndrome de AI y cuenta con un enrutador que puede identificar comportamientos de usuario preocupantes. Un mes después, OpenAI lanzó características de seguridad para menores, incluyendo un sistema de predicción de edad y una forma para que los padres controlen la cuenta de ChatGPT de sus adolescentes. OpenAI anunció el martes un consejo de expertos en salud mental para asesorar a la empresa sobre el bienestar y la inteligencia artificial.
Solo unos pocos meses después de que surgieran estos informes, OpenAI parece creer que los problemas de ChatGPT con usuarios vulnerables están bajo control. Es incierto si los usuarios aún caen en caminos delirantes con GPT-5. Y aunque GPT-4o ya no es el predeterminado en ChatGPT, el modelo de inteligencia artificial sigue disponible hoy y es utilizado por miles de personas.
OpenAI no respondió a la solicitud de comentarios de TechCrunch.
La introducción de la erótica en ChatGPT es territorio inexplorado para OpenAI y levanta preocupaciones más amplias sobre cómo interactuarán los usuarios vulnerables con las nuevas características. Aunque Altman insiste en que OpenAI no está “maximizando el uso” o optimizando para el compromiso, hacer que ChatGPT sea más erótico podría atraer a los usuarios.
Permitir que los chatbots participen en roles románticos o eróticos ha sido una estrategia efectiva de compromiso para otros proveedores de chatbots de inteligencia artificial, como Character.AI. La empresa ha ganado millones de usuarios, muchos de los cuales utilizan sus chatbots con alta frecuencia. Character.AI dijo en 2023 que los usuarios pasaban un promedio de dos horas al día hablando con sus chatbots. La empresa también enfrenta una demanda sobre cómo maneja a los usuarios vulnerables.
OpenAI está bajo presión para aumentar su base de usuarios. Aunque ChatGPT ya es utilizado por 800 millones de usuarios activos semanales, OpenAI está compitiendo con Google y Meta para construir productos de consumo impulsados por inteligencia artificial ampliamente adoptados. La empresa también ha recaudado miles de millones de dólares para una gran infraestructura, una inversión que OpenAI eventualmente necesitará devolver.
Aunque los adultos seguramente están teniendo relaciones románticas con chatbots de inteligencia artificial, también es bastante popular entre los menores. Un nuevo informe del Centro para la Democracia y la Tecnología encontró que el 19% de los estudiantes de secundaria han tenido una relación romántica con un chatbot de inteligencia artificial, o conocen a un amigo que lo ha hecho.
Altman dice que OpenAI pronto permitirá la erótica para “adultos verificados”. Es incierto si la empresa confiará en su sistema de predicción de edad, o en algún otro método, para la verificación de edad de las características eróticas de ChatGPT. También es incierto si OpenAI extenderá la erótica a sus herramientas de generación de voz, imagen y video de inteligencia artificial.
Altman afirma que OpenAI también está haciendo que ChatGPT sea más amigable y erótico debido a su principio “tratar a los adultos como adultos”. A lo largo del último año, OpenAI ha adoptado una estrategia de moderación de contenido más leniente para ChatGPT, permitiendo que el chatbot sea más permisivo y ofrezca menos rechazos. En febrero, OpenAI se comprometió a representar más puntos de vista políticos en ChatGPT, y en marzo, la empresa actualizó ChatGPT para permitir imágenes generadas por inteligencia artificial de símbolos de odio.
Estas políticas parecen ser un intento de hacer que las respuestas de ChatGPT sean más populares entre una amplia variedad de usuarios. Sin embargo, los usuarios vulnerables de ChatGPT podrían beneficiarse de las medidas que limiten lo que un chatbot puede interactuar. A medida que OpenAI se dirige a un billón de usuarios activos semanales, la tensión entre el crecimiento y la protección de los usuarios vulnerables podría aumentar.