La autonomía de un agente se gana, no se configura. Una escalera para concederla acción a acción

En la mayoría de las plataformas de agentes, la autonomía es un ajuste. Se elige si el agente pregunta antes de actuar, se marca una casilla y la decisión vale para todas las acciones que tome. Es fácil de configurar y difícil de defender, porque en esa elección no ha entrado nada del historial del agente.

Esta semana Gartner lo dijo sin rodeos. En un artículo del 2 de octubre sostuvo que la carrera por los agentes autónomos va más deprisa que la preparación de las empresas, y repitió su previsión de que el 40% de los proyectos de IA agéntica se cancelarán antes de que acabe 2027 por costes crecientes, valor de negocio poco claro o controles de riesgo insuficientes. Según Erick Brethenoux, vicepresidente distinguido y analista de Gartner, el reto no es crear agentes más capaces, sino agentes lo bastante fiables para ganarse más autonomía dentro de límites claros de responsabilidad y gobernanza.

Estamos de acuerdo, y queremos hacerlo operativo. Esta es la visión de La Madre sobre cómo conceder autonomía, con una advertencia: es un marco construido a partir de lo que vemos en el mercado, no un estándar que nadie haya adoptado.

Tres señales que apuntan en la misma dirección

Nuestra posición nace de un patrón en la cobertura reciente:

• Las operaciones de seguridad llegaron primero. En el SOC agéntico, los agentes reúnen contexto y proponen; los analistas deciden y contienen.
• Los agentes de operaciones llegan con la acción desactivada. AWS DevOps Agent trae activadas las acciones de lectura y desactivadas por defecto las que crean o modifican recursos, con cada aprobación atribuida a un operador con nombre.
• Los proveedores de modelos ya piden límites de decisión. La guía de GPT-6 de OpenAI recomienda establecer qué acciones pueden avanzar solas y cuáles requieren aprobación, en lugar de reglas genéricas de “pregunta siempre”.

Y el contraejemplo: cuando un agente sigue actuando después de que la persona que lo lanzó desaparezca, como en Copilot Autopilot, la pregunta de quién responde llega antes que la evidencia.

La escalera

1. 1. Leer y resumir
2. 2. Recomendar
3. 3. Actuar con aprobación cada vez
4. 4. Actuar dentro de límites, con muestreo
5. 5. Actuar ampliamente, monitorizado

Nada cambia en el mundoUna persona aprueba cada acción

1. Leer y resumir. El agente recopila y explica. No cambia nada en ningún sistema.
2. Recomendar. El agente propone una acción concreta, con su razonamiento y su evidencia. Una persona la ejecuta.
3. Actuar con aprobación. El agente ejecuta, pero solo cuando una persona con nombre aprueba cada acción.
4. Actuar dentro de límites. El agente ejecuta por su cuenta clases de acción aprobadas de antemano, dentro de límites (importe, alcance, volumen, reversibilidad), y se revisa después una muestra.
5. Actuar ampliamente. El agente decide y ejecuta un conjunto más amplio de acciones, con monitorización continua. Pocos flujos empresariales deberían estar aquí en 2026.

Cuatro reglas para que la escalera funcione

Conceda autonomía por clase de acción, no por agente. “Restablecer una contraseña” y “cerrar la cuenta de un cliente” son riesgos distintos aunque las haga el mismo agente. La unidad de confianza es la clase de acción.

Ascienda con evidencia. Subir una clase de acción del peldaño 3 al 4 debería exigir un registro: cuántas aprobaciones, cuántos rechazos, cuántas correcciones y en qué periodo. Si los aprobadores aceptan el 99% de las propuestas sin editarlas durante unos cientos de casos, hay evidencia. Si aprueban sin leer, no la hay, y por eso la calidad de la aprobación necesita su propia observabilidad.

Degrade automáticamente. Tres hechos deberían bajar una clase de acción un peldaño: un incidente, un cambio relevante en lo que la acción afecta y un cambio de modelo. La evidencia la ganó un modelo; el sustituto todavía no. Es el vínculo que vemos entre autonomía y ciclo de vida de los modelos, el problema que describimos en nuestro artículo sobre la retirada de modelos.

Escríbalo en el expediente del agente. Propusimos que todo agente en producción tenga un expediente con identidad, patrocinador, ruta, presupuesto y registro de acciones. El peldaño de autonomía de cada clase de acción pertenece a ese expediente, con la fecha y la evidencia que lo respaldan.

Qué fija el techo

No todas las clases de acción deben subir. Cuatro preguntas fijan el techo antes de reunir evidencia:

• ¿Es reversible? Devolver una comisión se deshace; presentar una declaración ante la Agencia Tributaria, no.
• ¿Cuál es el radio de impacto? ¿Un registro, un cliente o todos los clientes?
• ¿Lo veremos rápido? Autonomía sin monitorización es solo esperanza.
• ¿Quién responde? Si ninguna persona con nombre aceptaría responder por la acción del agente, el techo es el peldaño 3.

En España, parte del techo ya está escrito. El RGPD reconoce el derecho a no ser objeto de decisiones basadas únicamente en el tratamiento automatizado que produzcan efectos jurídicos o afecten significativamente a la persona, salvo excepciones y con garantías como la intervención humana. Y para los sistemas de alto riesgo, el artículo 14 del Reglamento europeo de IA exige que estén diseñados para que personas físicas puedan supervisarlos de forma efectiva, incluida la posibilidad de no usar, anular o revertir su resultado. Un agente en el peldaño 4 o 5 que decide sobre crédito, empleo o acceso a servicios tiene que traer ese diseño de serie. En Latinoamérica conviene revisar la ley de datos de cada país, porque el techo legal cambia de una frontera a otra.

Qué hacer ahora

1. Liste las clases de acción que ejecuta cada agente en producción, no solo los agentes.
2. Asigne un peldaño y un techo a cada una, con las cuatro preguntas.
3. Empiece a contar: aprobaciones, rechazos, ediciones e incidentes por clase de acción.
4. Fije de antemano los criterios de ascenso, para que subir sea una decisión con evidencia y no una sensación.
5. Vincule la degradación al cambio de modelo, para que el sustituto empiece un peldaño más abajo hasta demostrar lo que vale.

En resumen

La advertencia de Gartner es sobre el ritmo: la autonomía se está configurando más deprisa de lo que se demuestra la fiabilidad. La solución no es frenarlo todo. Es convertir la autonomía en algo que el agente se gana, clase de acción a clase de acción, con una evidencia que convencería a un escéptico, y que pierde cuando cambian los hechos.