Los agentes de industria de Google heredan muros éticos y citan fuentes. La IA es reglas, no vocabulario

Una IA legal que sabe qué es una cláusula de indemnización, pero no qué abogados están apartados de un asunto, no es un producto legal. Es un pasivo con buen vocabulario.

Esa es la forma útil de leer las ediciones de industria de Gemini de Google, anunciadas en Gemini at Work el 8 de octubre. Google dice que el Gemini especializado está “ahora en preview para Financial Services y Legal, y próximamente para Government, Healthcare y Retail”. Las partes interesantes de ambos previews no son lo que el modelo sabe sobre la industria. Son las reglas que promete respetar.

En legal, los muros viven en el sistema de documentos

Para despachos de abogados y departamentos legales, el titular de Google es que Gemini “hereda permisos a nivel de asunto y muros éticos directamente de plataformas de gestión documental como NetDocuments e iManage”. Harvey y Onit son nombrados como socios, y Cooley, dice Google, está construyendo un agente que oculta información confidencial antes de que las presentaciones se hagan públicas.

Heredar los muros en lugar de reconstruirlos es el diseño correcto. Las firmas ya aplican barreras de información en sus sistemas de documentos, y esos sistemas son los que auditan sus equipos de riesgos. Una capa de IA con su propia copia de las reglas se desviaría del original la primera vez que cambiara un muro. Es el mismo razonamiento que vimos en los agentes de SAP dentro del sistema transaccional: los controles que ya funcionan valen más que los nuevos.

La herencia, sin embargo, plantea preguntas que un preview tiene que responder antes de que una firma confíe en él:

• ¿Cuándo se verifica el muro? ¿En el momento de cada solicitud, o cuando se indexaron los documentos? Un muro creado esta mañana debe aplicarse esta mañana.
• ¿Alcanza el material derivado? Los resúmenes, borradores, la memoria del agente y los índices de búsqueda son copias del contenido del asunto. Si un agente recuerda algo del asunto A y luego trabaja para un abogado apartado de A, el permiso sobre el documento original ya no protege nada.
• ¿Quién ve la respuesta? Una respuesta compartida en un espacio de equipo llega a todos en él, sin importar lo que el solicitante tenía permitido leer.

Ninguna de estas es exótica. Son las que preguntará el director jurídico de una firma, y el período de preview es el momento de hacerlas.

En finanzas, la cita es el producto

Para servicios financieros, Google enumera más de 50 habilidades fundamentales, datos de FactSet, LSEG, S&P Global, presentaciones ante la SEC y los propios repositorios de una firma, y salidas con “puntuaciones de confianza, metodologías explícitas, linaje de datos completo para una auditoría sencilla, y citas de fuentes que usted puede verificar”. CME Group y Deutsche Bank son nombrados como clientes.

El linaje y las citas son lo que hace revisable el trabajo de un analista, así que incorporarlos es el instinto correcto. Pero una cita es un puntero, no una prueba. Como argumentamos en nuestro artículo sobre IA regulada, la evidencia de que una salida es correcta tiene que venir de algo independiente del modelo: un revisor que verifica la fuente, una conciliación contra un sistema de confianza. Una puntuación de confianza producida por el sistema que escribió la respuesta es una señal, no un control.

Dos verificaciones prácticas pertenecen a cualquier evaluación. La keynote no dice si los datos de mercado de FactSet, LSEG o S&P Global vienen con el producto o requieren las licencias existentes de una firma, y esas licencias a menudo restringen cómo se pueden redistribuir los datos dentro del contenido generado. Y el “linaje de datos completo” debe probarse rastreando una muestra de respuestas hasta sus fuentes, no tomarlo de una diapositiva.

Para qué sirve un preview

Preview significa que no hay compromisos de disponibilidad general, y para el trabajo regulado debería significar que no hay obligaciones de producción. También es el momento más barato para probar las afirmaciones que importan: cree un muro e intente cruzarlo, cambie un permiso y mida cuánto tarda el agente en darse cuenta, rastree una cifra en una respuesta hasta su fuente.

Las ediciones de industria se juzgarán por el conocimiento del dominio en las demos. En producción, se juzgarán por cuán fielmente aplican las reglas que la firma ya tiene. Evalúelas de la segunda manera: intentando romper las reglas.