Meta liberó este jueves los pesos de Muse Spark Open, un modelo de inteligencia artificial de pesos abiertos que la compañía describe como el más capaz desarrollado en Estados Unidos hasta la fecha, y lo presentó junto a Apple, que optimizó sus computadoras Mac Studio para ejecutarlo de forma local, sin depender de la nube.
El modelo es nativamente multimodal y tiene 816,000 millones de parámetros en total, de los cuales 42,000 millones están activos en cada consulta, con una ventana de contexto de 1 millón de tokens. Según Meta, está pensado para programación y tareas de agentes: trabajos largos, ingeniería de software compleja y razonamiento en varios pasos.
Meta asegura que es el primer modelo de su clase que corre en un escritorio usando dos Mac Studio con chip M5 Ultra y el marco MLX de Apple. Cada equipo puede destinar hasta 512 GB de memoria unificada a su procesador gráfico, con 1.2 TB/s de ancho de banda, de modo que dos máquinas funcionan como una sola con cerca de un terabyte de memoria. De acuerdo con CNBC, los usuarios podrán enlazar de dos a cuatro Mac Studio.
El costo no es menor: una Mac Studio con M5 Ultra y 256 GB de memoria cuesta desde 10,799 dólares, y la versión de 512 GB saldrá a la venta a finales de este mes, según el mismo medio. Para correr el modelo se necesitan al menos dos equipos.
Mark Zuckerberg lo anunció en X con una imagen del agente de Meta trabajando en una Mac y agradeció a John Ternus, quien sucedió a Tim Cook como director ejecutivo de Apple el mes pasado. Ternus respondió que es «increíble» ejecutar un modelo de ese calibre y escala con tanta eficiencia «desde tu escritorio».
El acercamiento rompe años de choques entre ambas empresas. La relación tocó fondo en 2021, cuando Apple introdujo cambios de privacidad que limitaron la publicidad dirigida; Meta calculó a inicios de 2022 que esa medida le restaría 10,000 millones de dólares en ingresos ese año. Representantes de las dos compañías declinaron decir si la colaboración es el inicio de una relación más profunda.
Muse Spark Open está disponible desde hoy vía API en Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter y Together AI, y sus pesos pueden descargarse en Hugging Face, Amazon SageMaker AI, Google Cloud Model Garden y Microsoft Foundry. Se publica bajo la licencia Muse Model License, con términos comerciales limitados que permiten a muchos desarrolladores usarlo sin costo.
Meta afirmó que el modelo recibió entrenamiento de seguridad adicional por tratarse de pesos abiertos y que cumplió los umbrales de su marco de riesgos para ser liberado; el informe completo de evaluación se publicará más adelante. Su jefe de IA, Alexandr Wang, reconoció a CNBC que no es el modelo más avanzado de la empresa, lugar que ocupa el cerrado Muse Wonder, pero apuesta a que los desarrolladores lo prueben a pequeña escala y luego amplíen su uso.
El anuncio llega en una jornada de presión para el sector: las acciones tecnológicas extendieron este jueves su caída por dudas sobre el costo de financiar la infraestructura de IA, y el Nasdaq perdió 1.2% poco después de la apertura, según CNN.
Deja una respuesta