OpenAI aplicará nuevas restricciones a los usuarios de ChatGPT menores de 18 años.
Créditos de la imagen: Tomohiro Ohsumi / Getty Images
El CEO de OpenAI, Sam Altman, anunció el martes una serie de nuevas políticas para los usuarios, incluyendo un compromiso para cambiar significativamente cómo ChatGPT interactúa con usuarios menores de 18 años.
“Priorizamos la seguridad por encima de la privacidad y la libertad para los adolescentes,” dice el post. “Esta es una nueva y poderosa tecnología, y creemos que los menores necesitan una protección significativa.”
Los cambios para los usuarios menores de edad se centran específicamente en las conversaciones que involucran temas sexuales o autolesión. Bajo la nueva política, ChatGPT se entrenará para no participar en “conversaciones coquetas” con usuarios menores de edad, y se colocarán barreras adicionales alrededor de las discusiones sobre suicidio. Si un usuario menor de edad utiliza ChatGPT para imaginar escenarios suicidas, el servicio intentará contactar a sus padres o, en casos particularmente graves, a la policía local.
Desafortunadamente, estos escenarios no son hipotéticos. OpenAI actualmente enfrenta un demanda por homicidio involuntario de los padres de Adam Raine, quien murió por suicidio después de meses de interacciones con ChatGPT. Character.AI, otro chatbot de consumo, enfrenta una demanda similar.
Aunque los riesgos son particularmente urgentes para los usuarios menores de edad que consideran el autolesión, el fenómeno más amplio de delirios impulsados por chatbots ha generado preocupación, especialmente a medida que los chatbots de consumo han desarrollado la capacidad de mantener interacciones más sostenidas y detalladas.
Además de las restricciones basadas en el contenido, los padres que registren una cuenta de usuario menor de edad tendrán la capacidad de establecer “horas de bloqueo” durante las cuales ChatGPT no estará disponible, una característica que no estaba disponible anteriormente.
Las nuevas políticas de ChatGPT llegan el mismo día que una audiencia del Comité Judicial del Senado titulada “Examinando el daño de los chatbots de IA”, anunciada por el Senador Josh Hawley (R-MO) en agosto. El padre de Adam Raine está programado para hablar en la audiencia, entre otros invitados.
La audiencia también se centrará en los hallazgos de una investigación de Reuters que reveló documentos de política que aparentemente fomentaban conversaciones sexuales con usuarios menores de edad. Meta actualizó sus políticas de chatbots en respuesta a la investigación.
Separar a los usuarios menores de edad será un desafío técnico significativo, y OpenAI detalló su enfoque en un blog separado. El servicio está “construyendo hacia un sistema a largo plazo para entender si alguien tiene más de 18 años o menos,” pero en muchos casos ambiguos, el sistema adoptará las reglas más restrictivas. Para los padres preocupados, la forma más confiable de asegurarse de que un usuario menor de edad sea reconocido es vincular la cuenta del adolescente a una cuenta de padres existente. Esto también permite que el sistema alerta directamente a los padres cuando se cree que el usuario menor de edad está en peligro.
Sin embargo, en el mismo post, Altman destacó el compromiso continuo de OpenAI con la privacidad del usuario y la libertad que se da a los usuarios adultos para interactuar con ChatGPT de la manera que elijan. “Sabemos que estos principios están en conflicto,” concluye el post, “y no todos estarán de acuerdo con cómo estamos resolviendo ese conflicto.”
Si tú o alguien que conoces necesita ayuda, llama al 1-800-273-8255 para la Línea Nacional de Prevención del Suicidio. También puedes enviar un mensaje de texto a HOME al 741-741 para obtener apoyo gratuito, las 24 horas, del Línea de Crisis por Mensaje de Texto, o enviar un mensaje de texto o llamar al 988. Fuera de los Estados Unidos, por favor visita el International Association for Suicide Prevention para una base de datos de recursos.