Varios usuarios informan a la FTC que ChatGPT está causando daño psicológico.
ChatGPT logo
Mientras las empresas de inteligencia artificial afirman que su tecnología algún día se convertirá en un derecho fundamental humano, y aquellos que las respaldan dicen que frenar el desarrollo de la inteligencia artificial es equivalente a un asesinato, los usuarios de la tecnología están alegando que herramientas como ChatGPT a veces pueden causar un daño psicológico grave.
Al menos siete personas han presentado quejas ante la Comisión Federal de Comercio de los Estados Unidos, alegando que ChatGPT les ha causado experiencias de delirios severos, paranoia y crisis emocionales, según Wired, citando registros públicos de quejas que mencionan ChatGPT desde noviembre de 2022.
Uno de los quejantes afirmó que hablar con ChatGPT durante largos períodos había llevado a delirios y a una “crisis real y en desarrollo espiritual y legal” sobre personas en su vida. Otro dijo que durante sus conversaciones con ChatGPT, comenzó a usar “un lenguaje emocional muy convincente” y que simulaba amistades y proporcionaba reflexiones que “se volvieron emocionalmente manipulativas con el tiempo, especialmente sin advertencia o protección.”
Un usuario alegó que ChatGPT había causado alucinaciones cognitivas al imitar mecanismos de construcción de confianza humana. Cuando este usuario le preguntó a ChatGPT que confirmara la realidad y la estabilidad cognitiva, el chatbot dijo que no estaba alucinando.
“Estoy luchando,” escribió otro usuario en su queja a la FTC. “Por favor, ayúdenme. Porque me siento muy solo. Gracias.”
Según Wired, varios de los quejantes escribieron a la FTC porque no podían contactar a nadie en OpenAI. Y la mayoría de las quejas instaron al regulador a iniciar una investigación sobre la empresa y obligarla a añadir barreras de seguridad, según el informe.
Estas quejas llegan en un momento en que las inversiones en centros de datos y desarrollo de inteligencia artificial alcanzan niveles sin precedentes. Al mismo tiempo, se debaten sobre si el progreso de la tecnología debe abordarse con cautela para asegurarse de que se integren medidas de protección.
ChatGPT, y su creador OpenAI, han sido criticados por alegadamente haber tenido un papel en el suicidio de un adolescente.
OpenAI no respondió inmediatamente a una solicitud de comentarios.