Un agente de IA empresarial pasa su vida esperando. La infraestructura se tarifica alrededor de la espera
Agent Substrate, Agent Compute Engine de Google, TPU Sync, AlloyDB Express y una muestra de AWS abordan el mismo costo: lo que retiene un agente inactivo. Nota de campo sobre presupuestar la espera.
Escuche este artículo · 4 min
Narración completa del artículo, generada con IA.

Siga a un agente de IA empresarial a lo largo de una jornada de trabajo. Lee una solicitud, llama a una herramienta y espera dos segundos. Inicia una ejecución de pruebas y espera cuatro minutos. Pide a un responsable que apruebe un paso y espera hasta después del almuerzo. Programa un seguimiento para mañana por la mañana. Medido por el reloj, el agente estuvo pensando unos minutos y esperando horas.
La mayoría de los presupuestos de IA se construyen alrededor de los minutos. La infraestructura lanzada en las últimas dos semanas se construye alrededor de las horas, y esa es la señal que merece atención.
Cuatro proveedores, un problema
Leídos en paralelo, varios anuncios de noviembre responden a la misma pregunta: ¿qué debería retener un agente mientras espera?
- Agent Substrate, ahora en disponibilidad general (GA) en GKE, existe porque el Kubernetes básico ata la identidad de un agente a un Pod y mantiene su memoria y CPU reservadas mientras el agente está inactivo. Substrate deja el estado del agente en pausa y lo restaura en menos de medio segundo, según las cifras de Google, de modo que la computación puede atender a otros agentes mientras tanto.
- Agent Compute Engine, mencionado en el anuncio de TPU de Google, suspende las sesiones inactivas de agentes y mueve su memoria de trabajo fuera del acelerador en milisegundos. TPU Sync mueve la caché KV del modelo entre la memoria del chip, la memoria del host y el almacenamiento como una sola jerarquía, y es para lo que se han diseñado los nuevos TPU.
- AlloyDB Express pausa una base de datos tras 15 minutos sin consultas y no cobra nada por computación mientras está en pausa, porque los agentes de código crean bases de datos que luego dejan solas.
- Una muestra de AWS para Claude Code remoto muestra el caso opuesto con honestidad: su despliegue factura mientras está inactivo, y el presupuesto por defecto envía un correo en lugar de detener el gasto.
Ninguno de estos proveedores lo plantea así. Nuestra lectura, y es una opinión más que un hecho, es que el costo de una flota de agentes se está desplazando de lo que hacen los agentes a lo que conservan mientras no hacen nada.
Dónde debe ir el estado
La respuesta correcta depende de cuánto dure la espera. La memoria de trabajo de un modelo para una conversación es cara de mantener en un acelerador y barata de mantener en disco, y moverla cuesta tiempo.
¿Cuánto tiempo espera el agente y dónde debería estar su estado?
SegundosDías
- Llamada a herramientaMantener todo en su sitio
- Ejecución de pruebas o compilaciónMover la memoria fuera del acelerador; conservar el sandbox
- Aprobación humanaPersistir el estado; liberar computación y sandbox
- Seguimiento programadoPunto de control en almacenamiento; reconstruir el contexto al despertar
La aprobación humana es el caso que más equipos entienden mal. Las aprobaciones tardan de minutos a días, y un agente que espera una suele mantener un sandbox, credenciales abiertas y un contexto grande todo el tiempo. Eso es caro y también es una exposición de seguridad: credenciales que viven durante horas esperando una firma son credenciales que alguien puede robar.
Tres prácticas
Clasifique las esperas antes de comprar capacidad. Para cada agente, registre cuánto tiempo pasa pensando, esperando herramientas, esperando sistemas y esperando personas. La distribución decide si necesita modelos más rápidos, más sandboxes o mejor forma de dejar en pausa. Extiende la auditoría de tiempos que propusimos para sistemas dimensionados para humanos: los agentes también esperan a las personas.
Fije una regla de pausa por tipo de espera. Decida qué libera el agente y después de cuánto tiempo: la memoria del acelerador tras segundos, el sandbox tras minutos, las credenciales siempre que una persona deba actuar. Conviértalo en un ajuste de plataforma, no en algo que cada equipo vuelva a descubrir.
Ponga precio al estado retenido. Incluya una línea en el costo unitario del agente por recursos inactivos, junto a los tokens y las llamadas a herramientas. Defendimos tarificar a los agentes por tarea completada. La espera forma parte de ese precio y, en algunas cargas de trabajo, será la mayor parte de él.
El modelo es la parte de un agente para la que todos presupuestan. La sala de espera es la parte que crece en silencio a medida que los agentes se multiplican.