Operai está reorganizando el equipo de acción modelo, un grupo pequeño pero influyente de investigadores que dan forma a cómo sus modelos de IA interactúan con las personas, aprendió TechCrunch.
En un memorando de agosto para el personal visto por TechCrunch, el director de investigación de OpenAI, Mark Chen, dijo que el equipo de comportamiento del modelo, que consta de alrededor de 14 investigadores, participará en el equipo posterior a la capacitación, un gran grupo de investigación responsable de mejorar los modelos de IA después de la capacitación inicial.
Como parte del cambio, el equipo de Acción Modelo informará al líder posterior a la entrenamiento de Openi, Max Schwarzer. Un portavoz de OpenAI confirmó estos cambios en TechCrunch.
Joanne Jang, líder fundadora del equipo de comportamiento modelo, también está en camino de lanzar un nuevo proyecto con la compañía. En una entrevista con TechCrunch, Jang dice que está construyendo un nuevo equipo de investigación llamado OAI Labs. Es responsable de «inventar y crear prototipos de nuevas interfaces para la forma en que las personas trabajan con IA».
El equipo de comportamiento modelo se ha convertido en uno de los principales grupos de investigación de OpenAI responsables de dar forma al carácter del modelo de inteligencia artificial de la compañía y reducir la sicophany, que ocurre cuando los modelos de IA están de acuerdo e incluso fortalecen no saludables, en lugar de proporcionar respuestas equilibradas. El equipo también trabajó para navegar por el sesgo político en las respuestas modelo y ayudó a OpenAi a definir una actitud sobre la conciencia de la IA.
En una nota para el personal, Chen dijo que es hora de acercar el trabajo del equipo de acción de modelo abierto al desarrollo del modelo central. Al hacerlo, la compañía muestra que la «personalidad» de AI se considera un factor clave en la evolución de la tecnología.
En los últimos meses, Operai se ha enfrentado a un escrutinio creciente del comportamiento de los modelos de IA. Los usuarios se opusieron firmemente a los cambios de personalidad realizados en GPT-5. La compañía dijo que tenía un bajo porcentaje de psicofancy, pero parece ser frío para algunos usuarios. Esto ha restaurado el acceso a algunos modelos heredados como el GPT-4O y ha publicado actualizaciones para garantizar que la nueva respuesta GPT-5 se sienta «cálida y amigable» sin aumentar la psicofancy.
Eventos de TechCrunch
San Francisco
|
27-29 de octubre de 2025
Los desarrolladores de modelos de OpenAi y todos los IA deben caminar por las líneas finas para hacer que los chatbots de IA sean amigables y hablar en lugar de sikopantic. En agosto, los padres de un niño de 16 años demandaron a OpenAi por el presunto papel de Chatgpt en el suicidio de su hijo. El niño Adam Lane abrió algunas de sus pensamientos sobre el suicidio, y en los meses previos a su muerte, planeó un chat GPT (particularmente la versión equipada con el GPT-4O) en los meses previos a su muerte. La demanda alega que GPT-4O no pudo retrasar su ideación suicida.
El equipo de acción modelo ha trabajado en todos los modelos Operai desde GPT-4, incluidos GPT-4O, GPT-4.5 y GPT-5. Antes de comenzar la unidad, Jang trabajó anteriormente en proyectos como Dall-E 2, la herramienta de generación de imágenes tempranas de Openai.
La semana pasada, Chang anunció en una publicación X que dejaría el equipo y «comenzaría algo nuevo en Operai». El ex jefe de acción modelo estuvo en Openai durante casi cuatro años.
Chan le dijo a TechCrunch que será gerente general de OAI Labs e informará a Chen por ahora. Pero era una edad temprana y aún no está claro qué sucederá con esas novelas interfaces, dijo.
«Estoy realmente emocionado de explorar los patrones que nos mueven más allá de los paradigmas de chat que actualmente están asociados con las citas y los agentes». He visto (sistemas de IA) como una forma de pensar, crear, jugar, hacer, aprender y conectarse «.
Cuando se le preguntó si Oai Labs trabajaría con el ex jefe de diseño de Apple, Jony Ive en estas nuevas interfaces, actualmente está trabajando con OpenAI en una familia de dispositivos de hardware de IA, pero Jang dijo que está adoptando muchas ideas. Pero ella dijo que probablemente comenzaría con un campo de investigación que conoce mejor.
Esta historia se ha actualizado para incluir un enlace a las publicaciones de Chan que anuncia sus nuevas posiciones que se lanzaron después de que se lanzó la historia. También aclara los modelos en los que ha trabajado el equipo de acción modelo de OpenAI.
Source link
