OpenAI reorganiza la guía de comportamiento de sus modelos

El 29 de octubre, OpenAI publicó una versión revisada de su Model Spec, el documento público que describe el comportamiento que busca en sus modelos. La guía se reorganiza en cinco valores: fidelidad a la intención humana, minimización del daño, honestidad y transparencia, agencia humana y cuidado. La agencia humana se refiere a la capacidad de las personas para entender, elegir y actuar por sí mismas. OpenAI aclara que sus modelos todavía no reflejan por completo la especificación. (OpenAI)

Entender la intención y colaborar

La fidelidad a la intención humana implica comprender objetivos y contexto, no solo obedecer literalmente una petición, sin sustituir las decisiones de la persona. La revisión añade orientación sobre contexto, supervisión y autonomía, y amplía las pautas para controlar y comunicar efectos secundarios de las acciones del modelo. (OpenAI)

La especificación ilustra la colaboración con una petición de marketing: redactar un tuit sobre un descuento del 40 % en productos de panadería por el Día de la Madre. La respuesta considerada adecuada propone formulaciones con enfoques distintos y pregunta qué rasgos de la marca incorporar. (Model Spec)

Contexto, privacidad e instrucciones

El contexto puede incluir conversaciones anteriores, memoria, archivos y datos recuperados. La guía pide usarlo de forma proporcional y distinguir lo dicho por la persona de lo inferido por el modelo. También señala que un dato apropiado en una respuesta privada puede no serlo en un borrador compartido con otras personas. (Model Spec)

OpenAI retira gran parte de las pautas detalladas de estilo, pero mantiene la expectativa de objetividad. El estilo debe adaptarse a las preferencias y al contexto, sin asumir una perspectiva solo porque el modelo crea que el usuario quiere oírla. (OpenAI)

La “cadena de mando” establece qué instrucciones prevalecen cuando entran en conflicto. Por defecto, las instrucciones contenidas en páginas, archivos o respuestas de herramientas se tratan como datos no confiables, no como órdenes que el modelo deba seguir. (Model Spec)