AI.AGG de BigQuery resume millones de filas en una consulta SQL y omite algunas sin avisar

Pídale a un analista que lea 50,000 quejas de clientes y le diga los cinco temas principales, y tendrá una respuesta en una semana. Pídaselo a un modelo y se topa con otro muro: las quejas no caben en su ventana de contexto. La nueva función de BigQuery de Google está pensada para ese muro.

AI.AGG, en preview, ejecuta una instrucción en lenguaje natural sobre millones de filas en una sola consulta SQL y devuelve una respuesta agregada por grupo. “Resuma las principales causas de fallo en estos logs, por servicio” se convierte en un GROUP BY.

Cómo funciona

Google trata la agregación semántica como un problema de map-reduce distribuido, con Gemini en cada etapa:

1. Validar filas
2. Agrupar en lotes para ajustarse al contexto
3. Inferir en paralelo
4. Sintetizar de forma recursiva

Acepta texto e imágenes: puede agregar hallazgos visuales en imágenes de Cloud Storage sin moverlas. Funciona dentro de la gobernanza de BigQuery, incluidos VPC Service Controls. Entre los usos sugeridos por Google están diagnosticar logs de sistema de gran volumen y generar listas de categorías que luego alimentan AI.CLASSIFY, la función a nivel de fila.

Los límites son el artículo

La publicación de Google es precisa sobre los límites, y varios importan más de lo que parece:

• Las filas pueden desaparecer sin aviso. Si cualquier campo de un STRUCT que se pasa a la función es NULL, la fila entera se trata como NULL y se descarta. El consejo de Google es envolver los campos que pueden ser NULL con IFNULL. Los errores transitorios de un lote también omiten las filas rechazadas en lugar de hacer fallar la consulta.
• La escala tiene techos recomendados. Alrededor de 20 millones de filas y 1,000 grupos por consulta, como máximo 10 MiB por fila, menos de diez imágenes por fila y una respuesta final limitada a 10,000 tokens por grupo.
• Cuesta más tokens de los que contienen los datos. El procesamiento por lotes recursivo hace que el total de tokens enviados a Gemini supere el número de tokens de los datos de origen. A diferencia de AI.CLASSIFY, que puede usar modelos pequeños destilados en CPU, AI.AGG usa modelos de peso completo en cada etapa.

El primer punto merece una pausa. En SQL normal, una fila descartada es un error que alguien acaba encontrando. Aquí es un comportamiento diseñado. Un resumen de “todas las quejas de este trimestre” que excluyó en silencio todas las quejas con el campo de región ausente no es un resumen de todas las quejas. La respuesta se leerá como completa de todos modos.

Usarlo con seguridad

Cuente lo que entró. Ejecute un COUNT(*) simple por grupo con los mismos filtros y el mismo tratamiento de IFNULL, y compárelo con lo que cubrió realmente la agregación. Si la función o su pipeline no pueden informar las filas procesadas, cree esa comprobación usted mismo antes de confiar en la salida en un informe.

Pida abstención. La propia guía de prompts de Google dice que se diseñen estados de fallo, que se devuelvan nulos en lugar de adivinar y que se defina un contrato de salida explícito. Haga ambas cosas. Un agregado que dice “evidencia insuficiente” es más útil que un párrafo seguro construido sobre una fracción de las filas. Es la propiedad de abstención que enumeramos en la especificación para el contexto del agente.

Estime antes de ejecutar. Google señala AI.COUNT_TOKENS para estimar costos, filtros WHERE y LIMIT estrictos y context caching para conjuntos de datos estáticos. Convierta la estimación en un paso obligatorio para cualquier consulta sobre unos cientos de miles de filas.

Resérvelo para el descubrimiento. AI.AGG es excelente para encontrar temas que nadie ha nombrado todavía. Cuando un tema ya tiene nombre, pase a la clasificación a nivel de fila, que se puede contar, auditar y ejecutar con modelos más baratos. Descubrimiento con la herramienta cara, medición con la barata.