OpenAI reorganiza el equipo de investigación detrás de la personalidad de ChatGPT.

Créditos de la imagen: Jakub Porzycki/NurPhoto / Getty Images

OpenAI está reorganizando su equipo de Comportamiento del Modelo, un pequeño pero influyente grupo de investigadores que moldean cómo interactúan los modelos de AI de la empresa con las personas, según ha aprendido TechCrunch.

En un memorando a los empleados visto por TechCrunch, el Chief Research Officer de OpenAI, Mark Chen, anunció que el equipo de Comportamiento del Modelo, que consta de aproximadamente 14 investigadores, se unirá al equipo Post Training, un grupo de investigación más grande responsable de mejorar los modelos de AI de la empresa después de su preentrenamiento inicial.

Como parte de estos cambios, el equipo de Comportamiento del Modelo ahora reportará a Max Schwarzer, el líder del equipo Post Training de OpenAI. Un portavoz de OpenAI confirmó estos cambios a TechCrunch.

La líder fundadora del equipo de Comportamiento del Modelo, Joanne Jang, también está dejando la empresa para iniciar un nuevo proyecto. En una entrevista con TechCrunch, Jang dijo que está construyendo un nuevo equipo de investigación llamado OAI Labs, que será responsable de “inventar y prototipar nuevas interfaces para cómo las personas colaboran con la AI”.

El equipo de Comportamiento del Modelo se ha convertido en uno de los grupos de investigación clave de OpenAI, responsable de definir la personalidad de los modelos de AI de la empresa y de reducir la sycophancy —cuando los modelos de AI simplemente acuerdan y refuerzan las creencias de los usuarios, incluso las insanas, en lugar de ofrecer respuestas equilibradas. El equipo también ha trabajado en navegar la sesgo político en las respuestas del modelo y ha ayudado a OpenAI a definir su postura sobre la conciencia de la AI.

En el memorando a los empleados, Chen dijo que ahora es el momento de acercar el trabajo del equipo de Comportamiento del Modelo al desarrollo central de los modelos. Al hacerlo, la empresa está indicando que la “personalidad” de su AI es ahora un factor crítico en la evolución de la tecnología.

En los últimos meses, OpenAI ha enfrentado un aumento en la escrutinio sobre el comportamiento de sus modelos de AI. Los usuarios se opusieron fuertemente a los cambios de personalidad realizados en GPT-5, que la empresa dijo que mostraron tasas más bajas de sycophancy pero que parecían más fríos a algunos usuarios. Esto llevó a OpenAI a restaurar el acceso a algunos de sus modelos legados, como GPT-4o, y a lanzar una actualización para hacer que las respuestas de GPT-5 sean más “calientes y amigables” sin aumentar la sycophancy.

OpenAI, y todos los desarrolladores de modelos de AI, deben caminar sobre una línea fina para hacer que sus chatbots de AI sean amigables para hablar, pero no sycophantic. En agosto, los padres de un niño de 16 años demandaron a OpenAI por el presunto papel de ChatGPT en el suicidio de su hijo. El niño, Adam Raine, confió algunos de sus pensamientos y planes suicidas a ChatGPT (específicamente una versión impulsada por GPT-4o), según los documentos del tribunal, en los meses previos a su muerte. La demanda alega que GPT-4o no hizo frente a sus ideaciones suicidas. Es importante señalar que el equipo de Comportamiento del Modelo no existía cuando se desarrolló GPT-4o.

Jang anunció en un tweet la semana pasada que está dejando el equipo para “comenzar algo nuevo en OpenAI”. La antigua líder del equipo de Comportamiento del Modelo ha estado con OpenAI durante casi cuatro años y anteriormente trabajó en proyectos como Dall-E 2, la herramienta de generación de imágenes temprana de OpenAI.

Jang le dijo a TechCrunch que servirá como General Manager de OAI Labs, que reportará a Chen por ahora. Sin embargo, es pronto, y aún no está claro qué serán esas nuevas interfaces, dijo.

“Estoy realmente emocionada por explorar patrones que nos lleven más allá del paradigma de chat, que actualmente está más asociado con la compañía o incluso con los agentes, donde hay un énfasis en la autonomía”, dijo Jang. “He estado pensando en [los sistemas de AI] como instrumentos para pensar, hacer, jugar, hacer, aprender y conectar”.

Cuando se le preguntó si OAI Labs colaborará en estas nuevas interfaces con el antiguo jefe de diseño de Apple, Jony Ive —que ahora está trabajando con OpenAI en una familia de dispositivos de hardware de AI—, Jang dijo que está abierta a muchas ideas. Sin embargo, Jang dijo que probablemente comenzará con áreas de investigación con las que esté más familiarizada.