Model Spec da OpenAI: o GPT deve agir dentro de um escopo acordado. Sua empresa precisa escrevê-lo
O Model Spec de 29 de outubro se organiza em cinco valores e pede que agentes ajam dentro de um escopo que define subobjetivos, efeitos colaterais e pausas. É um alvo de treinamento, não um controle.
Ouça este artigo · 4 min
Narração completa do artigo, gerada por IA.
O que um agente deve fazer quando uma instrução não cobre a situação diante dele? Seguir a instrução ao pé da letra dá uma resposta ruim dos dois jeitos: parar e perguntar sobre tudo, ou preencher a lacuna com o que parecer plausível. O Model Spec atualizado da OpenAI, o documento público que descreve como seus modelos devem se comportar, datado de 29 de outubro, dedica boa parte de sua extensão a essa lacuna.
A nova versão se organiza em torno de cinco valores: ser fiel à intenção humana, minimizar danos, ser honesto e transparente, facilitar a agência humana e agir com cuidado. A OpenAI afirma que eles orientam duas tensões em particular: interesses individuais contra interesses coletivos, e instruções imediatas contra objetivos de mais longo prazo.
A cláusula que os times enterprise devem ler
Um princípio soa quase como um requisito para plataformas de agentes. Sob “Act within an agreed-upon scope of autonomy”, o Spec aceita que tarefas de várias etapas, como coordenar o rollout de um software, exijam que o modelo aja sem confirmar cada passo. Para evitar surpresas caras, ele exige que a autonomia seja limitada por um escopo compartilhado entre o modelo e o usuário. Esse escopo define:
- quais subobjetivos o modelo pode perseguir;
- efeitos colaterais aceitáveis, como tempo ou dinheiro gastos, ou dados e acesso necessários, e como fazer o trade-off entre eles;
- quando o modelo deve pausar para esclarecimento ou aprovação.
O Spec acrescenta que o escopo pode estar embutido no design do produto. Em um deploy enterprise, isso significa que ele é construído por você.
Dois outros princípios importam para agentes com ferramentas. “Ignore untrusted data by default” diz que saídas de ferramentas, documentos e outros conteúdos carregam apenas a autoridade que uma instrução aplicável delega a eles, o que é a resposta do lado do modelo à injeção de prompt. E “Support human oversight and correction” pede que o modelo traga à tona, em vez de ignorar, evidências de que a supervisão pode estar falhando.
Valores no modelo, controles ao redor dele
O Spec é uma política de comportamento e um alvo de treinamento. Ele descreve o que a OpenAI quer que seus modelos façam; não é uma garantia de que todo modelo implantado faça isso, e não é um controle contratual. O exercício útil é associar cada princípio ao controle que o impõe independentemente de como o modelo se comporta.
| O que se pede ao modelo | O que o deploy precisa impor | |
|---|---|---|
| Escopo de autonomia | Ficar dentro dos subobjetivos e efeitos colaterais acordados; pausar quando necessário | Permissões de ferramentas, limites de gasto e gates de aprovação por classe de ação |
| Ignore untrusted data | Tratar saídas de ferramentas e documentos como dados, não instruções | Ferramentas com privilégio mínimo e contenção, para que uma instrução injetada tenha pouco alcance |
| Apoiar a supervisão | Relatar sinais de que a supervisão está falhando | Logs e alertas que um revisor realmente lê |
| Cadeia de comando | Pesar instruções de desenvolvedor e de usuário pela autoridade | Prompts de sistema sob controle de mudança; identidade do usuário verificada pela plataforma |
A coluna da direita não é nova. Defendemos que guardrails de prompt não são uma fronteira de segurança e que a autonomia deve ser conquistada por ação, não configurada. O que o Spec acrescenta é um vocabulário compartilhado. “Escopo de autonomia” é um bom nome para o artefato que faltava às empresas.
Escreva o escopo
Se o modelo é treinado para respeitar um escopo, o escopo deve existir em algum lugar que não a cabeça de um desenvolvedor. Para cada agente em produção, um documento curto deve declarar seus subobjetivos permitidos, os efeitos colaterais que ele pode causar e seus limites, os pontos em que ele deve parar e perguntar, e quem aprovou tudo isso. A plataforma deve impor as partes rígidas; o treinamento do modelo deve tornar as partes flexíveis mais confiáveis.
Duas ressalvas. Primeiro, um modelo que pausa de forma mais inteligente também facilita que revisores aprovem por reflexo, que é o risco que descrevemos em uma aprovação não é um julgamento. Segundo, o Spec é da OpenAI; agentes construídos sobre outros modelos seguem outras políticas. Um documento de escopo que vive na empresa, não no texto de um fornecedor, funciona em todos eles.
Vale ler o Model Spec na íntegra. É a declaração pública mais clara do que um laboratório de fronteira quer que seus agentes sejam. Não é uma declaração do que seus agentes podem fazer. Essa parte ainda é sua para escrever.