Muse Spark Open necesita cerca de un terabyte de memoria. Descargar los pesos es lo fácil

La demostración de Meta para su nuevo modelo de pesos abiertos son dos Mac Studio con Apple M5 Ultra, cada uno con hasta 512 GB de memoria unificada, conectados entre sí para funcionar como una sola máquina de alrededor de un terabyte. Sobre esa configuración, el agente de programación de Meta hizo cambios de iOS en un cliente de Mastodon de código abierto y controló un editor de vídeo fotograma a fotograma. Es una buena demostración y una pista honesta sobre la escala: lo más pequeño sobre lo que Meta eligió mostrarlo funcionando es un terabyte de memoria rápida.

Muse Spark Open, publicado el 15 de octubre, es un modelo multimodal de mezcla de expertos (mixture of experts) con 816 000 millones de parámetros totales, 42 000 millones activos por token y una ventana de contexto de hasta un millón de tokens. Meta lo construyó para programación, uso de herramientas y trabajo de agentes de larga duración. Los pesos están en Hugging Face y en los catálogos de modelos de Amazon SageMaker AI, Google Cloud Model Garden y Microsoft Foundry. La inferencia alojada la ofrecen Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter y Together AI, y el modelo se ejecuta en los motores de inferencia habituales, de vLLM y SGLang a MLX y llama.cpp.

Para una empresa, el lanzamiento añade una opción seria. También añade una decisión que es fácil de tomar por el motivo equivocado.

Disperso no es pequeño

La mezcla de expertos abarata el cálculo de cada token, porque solo 42 000 millones de parámetros están activos. No hace que el modelo sea pequeño de alojar. Los 816 000 millones de parámetros tienen que residir en memoria en lo que sea que lo sirva, y un contexto largo añade a eso. La página de Meta no indica hardware mínimo ni formatos cuantizados oficiales, así que la primera tarea de ingeniería es establecer qué hace falta de verdad para servir el modelo con la latencia y la concurrencia que usted necesita, sobre hardware que pueda conseguir.

Las afirmaciones de rendimiento de Meta son suyas. La página llama a Muse Spark Open el modelo de pesos abiertos más capaz de Estados Unidos hasta la fecha; las cifras cuantificadas que ofrece son aceleraciones a nivel de kernel, no resultados de tareas sobre trabajo como el suyo. Una ventana de un millón de tokens es una capacidad, no una prueba de que el razonamiento se mantenga a lo largo de ella.

Cuatro preguntas antes de ejecutarlo

1. ¿La licencia encaja con su uso? Muse Spark Open se distribuye bajo la Muse Model License, que Meta describe como con “términos comerciales limitados, que permiten a muchos desarrolladores usar el modelo gratis”. Pesos abiertos no es código abierto. Antes de que un ingeniero descargue nada, el equipo legal debería leer los términos sobre umbrales comerciales, redistribución, uso dentro de un servicio que usted ofrece a sus clientes, atribución y usos restringidos.

2. ¿Qué problema resuelven los pesos? Las buenas razones para tener los pesos son la custodia (el código y los prompts nunca salen de infraestructura que usted controla), la personalización (fine-tuning sobre su propio código y sus convenciones) y un coste predecible con un volumen alto y estable. “Evitar el lock-in” por sí solo es débil, porque los proveedores alojados de arriba ya le dan eso con el mismo modelo.

3. ¿Puede mantenerlo ocupado? El autoalojamiento compensa cuando el hardware se usa. Vimos una H100 alquilada ganar cuatro veces su coste en una mañana ajetreada y perder dinero a lo largo de la semana. Un modelo de este tamaño sube la apuesta: la capacidad ociosa es capacidad cara. Póngale precio por tarea completada sobre las horas que paga, no por token en el pico.

4. ¿Quién lo opera? Ejecutar un modelo de escala frontera significa parchear el stack de servicio, monitorizar la deriva de calidad, gestionar incidentes de capacidad y evaluar cada nueva versión antes de que sustituya a la anterior. Como escribimos cuando Reflection publicó Beam, con pesos abiertos la responsabilidad operativa pasa a usted. Esa responsabilidad es el precio real de la custodia.

Tres formas de sostenerlo

Los mismos pesos llegan ahora con tres modelos operativos, y no son equivalentes:

• Una API alojada de uno de los proveedores de inferencia: sin hardware, pero sus prompts y su código van a ese proveedor, bajo sus términos y sus regiones.
• Un despliegue gestionado en su nube, a través de SageMaker AI, Model Garden o Foundry: su cuenta, su perímetro de red, su factura de capacidad, con la nube encargándose de buena parte del servicio.
• Su propio hardware: máxima custodia, máxima carga operativa.

Muchas empresas empezarán por la primera para evaluar la calidad sobre sus propios repositorios, y solo pasarán a la segunda o la tercera si la evaluación y el volumen lo justifican. Esa es la secuencia que sugerimos para Mistral Large 4, y aquí se mantiene.

Qué cambia el lanzamiento

El cambio práctico está en la negociación y la arquitectura más que en un despliegue concreto. Un modelo de programación de clase frontera con pesos abiertos da a las empresas una alternativa creíble a las API cerradas para agentes de programación, algo que importa en la renovación de contratos aunque nunca llegue a autoalojarlo. También hace que la capa del modelo sea más reemplazable, lo que sube el valor de las partes que no lo son: sus conjuntos de evaluación, su política de enrutamiento y el contexto desde el que trabajan sus agentes.

Empiece por la evaluación. Pruebe Muse Spark Open con las tareas que sus agentes de programación ya hacen, a través de un endpoint alojado, y compare el coste por cambio aceptado con lo que usa hoy. Si no gana ahí, la pregunta sobre el hardware nunca necesitará respuesta.