Crear apps con IA ya es fácil. Lo difícil es el acceso seguro a datos vivos, y AWS acaba de moverlo

La primera app interna creada con IA suele lucir en la demo y torcerse una semana después. Alguien exportó una hoja de cálculo para que la app tuviera datos. El lunes las cifras ya están desfasadas. La app enseña los datos de todas las delegaciones a cualquiera que tenga el enlace, porque la exportación no se llevó los permisos del sistema de origen. Nadie actuó de mala fe. La app simplemente se saltó la parte difícil.

Lo planteamos hace unos días en nuestro análisis de Copilot Managed Runtime: generar apps es fácil, operarlas es lo difícil. AWS acaba de abordar una parte concreta de esa dificultad en Amazon Quick.

Qué ha lanzado AWS

Las Quick Apps son aplicaciones creadas a partir de lenguaje natural: el usuario describe lo que quiere y un agente de IA escribe y publica una app web funcional. En un artículo del 1 de octubre, AWS explicó que las Quick Apps consultan ahora conjuntos de datos gobernados en tiempo real, en lugar de incrustar una copia estática al crearse. En palabras de AWS, la app muestra datos actuales y filtrados según lo que usted tiene permiso para ver.

Las fuentes admitidas incluyen conjuntos de datos de Quick Sight, en modo SPICE (en memoria) y Direct Query, fuentes Direct Query de proveedores compatibles, contenido y documentos corporativos, y conectores de acción como Jira, Slack y Google Drive.

El modelo de permisos es lo que importa:

• Cada persona consulta con su propia identidad. La app no se ejecuta con los accesos de quien la creó.
• La seguridad por fila y por columna se aplica automáticamente, con las mismas reglas definidas en el conjunto de datos.
• El consentimiento se comprueba en el servidor en cada consulta, y quien consulta debe autenticarse como usuario de Quick.

AWS no indica si la función está en versión preliminar o con disponibilidad general, ni detalla regiones concretas para ella.

Por qué la copia era el verdadero problema

1. Quien la crea exporta una copia
2. La app incrusta la copia
3. Todos ven las mismas filas desfasadas
4. El usuario inicia sesión
5. La consulta corre como ese usuario
6. Reglas de fila y columna, dato actual

• Copia al crear: Quien la crea exporta una copia · La app incrusta la copia · Todos ven las mismas filas desfasadas
• Camino gobernado al ejecutar: El usuario inicia sesión · La consulta corre como ese usuario · Reglas de fila y columna, dato actual

Copia sin controlAcceso gobernado

Una copia dentro de la app falla de tres maneras a la vez. Se desfasa, y se decide con cifras viejas. Pierde los permisos, porque no sabe quién podía ver qué filas. Y es una nueva copia de datos de negocio sin responsable, sin regla de conservación y fuera de cualquier inventario, que es exactamente el problema de custodia que describimos en nuestro artículo sobre la custodia como primera pregunta. Si la hoja contenía datos de clientes, la empresa acaba de crear un tratamiento que no figura en su registro de actividades del RGPD.

Consultar el conjunto de datos gobernado al ejecutar, con la identidad de quien mira, resuelve las tres cosas para los datos que viven en ese conjunto. Es una mejora real de arquitectura, y es el patrón correcto sea cual sea el proveedor: las apps creadas con IA deben consumir productos de datos gobernados, no copias.

Lo que sigue siendo responsabilidad suya

Las reglas del conjunto de datos tienen que estar bien. El acceso en directo hereda la seguridad por fila y columna; no la inventa. Si el conjunto se montó con acceso amplio porque solo lo usaban analistas, una app encima expone esa amplitud a todo el que llegue a la app.

Leer y actuar son riesgos distintos. Consultar un conjunto de datos como el usuario es una lectura. Los conectores de acción hacia Jira, Slack o Google Drive escriben en otros sistemas. Decida qué apps generadas pueden usar acciones y con la autoridad de quién.

La carga se traslada al origen. Direct Query envía consultas en directo a la base de datos subyacente. Una app generada que tenga éxito puede convertirse en una carga no planificada sobre un sistema de producción.

La región cuenta. La tabla de regiones de Amazon Quick muestra las funciones agénticas disponibles en Frankfurt, Irlanda y Londres, pero no en la región de España ni en São Paulo. Una empresa española puede trabajar desde Frankfurt o Irlanda, y la documentación indica que la inferencia de solicitudes originadas en regiones europeas se procesa dentro de Europa, región de España incluida. Para Latinoamérica el panorama es distinto: no hay región latinoamericana con funciones agénticas, así que usar apps creadas por agente implica operar fuera de la región, algo que conviene evaluar con la ley de datos de cada país. La documentación añade que el enrutamiento de la inferencia no es configurable y que los registros de CloudTrail y CloudWatch no indican en qué región se produjo.

Alguien sigue siendo responsable de la app. El dato en directo resuelve la copia desfasada, no la falta de responsable. Las apps generadas necesitan un dueño, una finalidad y una fecha de fin.

Qué hacer ahora

1. Prohíba por política las copias en apps creadas con IA donde exista un conjunto de datos gobernado, y haga del camino gobernado la plantilla por defecto.
2. Revise la seguridad por fila y columna de los conjuntos con más probabilidades de usarse en apps generadas antes de activar el acceso en directo.
3. Separe las apps de lectura de las apps con acciones y exija revisión para cualquier app generada que use conectores de acción.
4. Vigile la carga de Direct Query sobre los sistemas de origen durante las primeras semanas.
5. Registre las apps generadas con responsable, fuentes de datos y público, igual que los agentes.

En resumen

La pregunta sobre las apps empresariales creadas con IA nunca fue si un agente sabe escribir el código. Es si la app llega a los datos del negocio por el mismo camino gobernado que cualquier otro consumidor. El cambio de AWS convierte ese camino en el más fácil dentro de Amazon Quick. Los permisos que hereda siguen teniendo que estar bien, y elegir la región forma parte del mismo trabajo.