No toda decisión necesita un modelo generativo. La Decisions API de OpenAI pone precio a la capa de decisión

A principios de esta semana, Cloudflare lanzó modelos de decisión abiertos y argumentamos que un agente no debería preguntar a un modelo frontera cada pequeña cuestión. El 6 de octubre, OpenAI hizo el mismo argumento arquitectónico con su propio producto, y le puso una lista de precios.

Si ponemos los dos lado a lado, la capa de decisión deja de parecer un patrón y empieza a parecer una categoría de producto.

Misma idea, diferentes términos

La Decisions API de OpenAI está disponible para todos los desarrolladores en beta pública. Se ejecuta en GPT-6 Luna, acepta entradas de texto e imagen, y devuelve uno de tres resultados estructurados en lugar de texto libre: predicados, una probabilidad de que una afirmación sea verdadera; opciones, una selección entre opciones que usted define, con puntuaciones de confianza; y puntuaciones, un número en un rango que usted establece.

Los modelos Clef de Cloudflare responden a los mismos tipos de preguntas. La diferencia está en la custodia y la facturación. Los pesos de Clef son abiertos y pueden ejecutarse en cualquier lugar; el modelo de OpenAI es una API alojada. OpenAI dice que las decisiones son hasta 10 veces más rápidas que llamar a GPT-6 Luna a través de la Responses API, y las cobra a $0.10 por millón de tokens de entrada, sin cargo por tokens de salida ni por lecturas y escrituras de caché. Tanto la velocidad como el precio son cifras de OpenAI para una beta, y el anuncio no menciona disponibilidad a través de socios de nube.

La lista de precios cambia el diseño

Usted paga por el contexto, no por las respuestas. Con la salida gratuita y la entrada facturada, el costo de una decisión depende casi por completo de cuánto envía. Una verificación de enrutamiento que envía todo el historial de una conversación cuesta mucho más que una que envía el último mensaje y un breve resumen del estado. La disciplina de contexto se convierte en disciplina de costos.

La capa de decisión obtiene su propia línea presupuestaria. El enrutamiento, la escalada, la moderación y la clasificación del siguiente paso a menudo constituyen la mayor parte de las llamadas de un agente. Moverlas a un endpoint más barato y rápido cambia la economía que describimos en nuestro análisis del enrutamiento por tarea en la guía GPT-6 de OpenAI, y hace visible qué parte del gasto de un agente es razonamiento y qué parte es triaje.

La custodia se convierte en una elección real. Para decisiones que tocan datos regulados, los pesos abiertos que usted aloja y una API que usted llama son perfiles de riesgo diferentes. Esa diferencia puede importar más que la velocidad o el precio.

Lo que una API de decisión todavía no decide

Una probabilidad no es un permiso. Un “aprobar” de alta confianza todavía pasa por una verificación de política determinista que usted posee, con umbrales en la configuración y una banda que va a una persona.

La calibración necesita pruebas en su propio tráfico: un 0.9 debería ser correcto unas nueve veces de cada diez. Los primeros usuarios de la beta pública en el foro de OpenAI ya están comparando qué tan bien se comportan los formatos, un recordatorio para medir antes de establecer umbrales.

Y una beta es una beta. Los límites de velocidad, los precios y el comportamiento pueden cambiar antes de la disponibilidad general (GA). La forma más segura de adoptar cualquiera de estos modelos, los de OpenAI, los de Cloudflare o los suyos propios, es detrás de una única interfaz interna, para que la capa de decisión pueda cambiar de proveedor sin que el agente lo note.