O Minerva da NVIDIA mede o rendimento da fábrica de IA, não o uptime das GPUs. Seu cluster precisa disso

Um job de treino que deveria terminar em dois dias leva três. Todos os dashboards estão verdes: as GPUs estão ocupadas, a rede está no ar, o storage responde. Em algum lugar, uma GPU roda mais quente que as vizinhas e reduz o próprio desempenho, ou um disco fica lento sob carga, e como o treino distribuído anda na velocidade do participante mais lento, o job inteiro paga por isso.

É para esse problema que a NVIDIA lançou o Minerva, em 22 de outubro. É uma plataforma de AIOps que coleta telemetria das GPUs, da rede, do storage, dos agendadores e das próprias cargas, e aplica modelos construídos para isso a fim de achar problemas mais cedo.

Um grafo para o cluster inteiro

A ideia central do Minerva é um grafo de conhecimento dinâmico que mapeia a infraestrutura, GPUs, placas de rede, switches e cabos, junto com os jobs que rodam sobre ela. Com esse mapa, um operador consegue rastrear um treino lento até o componente que o afeta, diz a NVIDIA, mesmo numa instalação com centenas de milhares de GPUs.

1. Telemetria de GPUs, rede, storage, agendadores, jobs
2. Grafo de conhecimento de componentes e cargas
3. Modelos detectam anomalias e preveem falhas
4. Alertas relacionados viram um incidente
5. Correção recomendada, por assistente ou API
6. Uma pessoa aplica, ou a automação aplica

O operador escolheA camada nova

Ele analisa o que a NVIDIA descreve como bilhões de pontos de dados por hora, com modelos supervisionados e não supervisionados, aprende o comportamento normal, prevê falhas que estão surgindo e agrupa uma avalanche de alertas num único incidente com uma causa raiz provável. Um assistente embutido responde em linguagem natural sobre a saúde do cluster, e o Minerva pode se conectar a ferramentas agênticas externas. Os times podem manter uma pessoa aplicando as correções ou ligar as recomendações à automação pelas APIs de infraestrutura.

A IREN, operadora de nuvem de IA, já usa. A NVIDIA lista Aolani, Bitdeer AI, IBM, Jio, Lambda, Quake AI e Tesla como empresas que planejam implantar, e Dell, Lenovo e Supermicro como fornecedoras que vão oferecê-lo nos seus portfólios de fábrica de IA. São planos, e as promessas da NVIDIA de mais tempo entre interrupções e reparos mais rápidos não vêm quantificadas no anúncio.

Rendimento, não ocupação

A ideia que vale levar do Minerva, mesmo que você nunca o compre, é a métrica que a NVIDIA coloca no centro: o rendimento da fábrica de IA, o trabalho útil que uma infraestrutura produz, medido em horas de GPU, goodput, uptime do cluster e produção de tokens.

A maior parte dos relatórios sobre infraestrutura de IA nas empresas ainda mede ocupação: quanto as GPUs ficaram ocupadas. Ocupação é um sinal fraco. Uma GPU travada esperando uma vizinha lenta está ocupada. Um job que quebra na hora 40 e recomeça do último checkpoint ficou ocupado durante as 40 horas. Um cluster pode reportar ocupação alta e entregar metade do trabalho concluído que deveria.

Já defendemos que a inferência deve ser precificada por tarefa concluída, sobre as horas que você paga, e que os próximos cortes de custo podem vir de baixo do modelo, no agendamento e no serving. O rendimento é a versão de infraestrutura da mesma disciplina: contar o que terminou, não o que rodou.

Isso importa fora dos hyperscalers?

Mais do que parece. As empresas que compram infraestrutura de IA privada, seja em racks dimensionados pela carga, seja em clusters para cargas soberanas ou reguladas, já operam pequenas fábricas de IA. Raramente têm os times de operação especializados que as grandes nuvens de GPU empregam. Uma plataforma que correlaciona telemetria de GPU, rede e jobs é exatamente a competência que falta a elas, e o fato de Dell, Lenovo e Supermicro planejarem oferecer o Minerva significa que ele pode chegar junto com o hardware.

Dois cuidados para esses compradores. Primeiro, confira o que o Minerva precisa enxergar: o valor dele depende da telemetria das GPUs e da rede da NVIDIA, e a visão sobre storage ou agendadores de terceiros deve ser confirmada no seu ambiente. Segundo, decida cedo o que ele pode mudar sozinho. Uma recomendação de retirar um nó do cluster é inofensiva; uma retirada automática no meio de um processamento regulado é uma mudança operacional, e deve passar pela mesma aprovação de qualquer outra.

Perguntas para a próxima revisão de infraestrutura

1. Que fração das horas de GPU pagas no mês passado produziu trabalho concluído?
2. Quanto tempo leva hoje para rastrear um job lento até o componente que o causa?
3. Quais passos de correção a automação pode executar sem uma pessoa, e quem aprovou essa lista?
4. Se treino e inferência rodam no mesmo cluster, qual cede quando os dois competem, e isso está escrito?

O Minerva é um produto para operadores de clusters muito grandes. A métrica por trás dele pertence a toda empresa que tem GPUs.