Meta samarbetar med Apple för att köra Muse Spark Open på Mac

Meta Platforms ↘ 3.72% släppte vikterna för Muse Spark Open torsdagen den 15 oktober och kallar den "den mest kapabla amerikanska modellen med öppen vikt hittills". Företaget uppgav att de arbetat med Apple ↗ 0.43% för att finjustera modellen så att den kan köras lokalt på Mac Studio med M5 Ultra-chippet, enligt 9to5Mac. Affären för samman två företag som varit rivaler i åratal, och Axios kallar det en "slående avspänning".cnbc.com+1

Modellen och hårdvaran

Muse Spark Open hanterar flera typer av indata naturligt. Den har 816 miljarder totala parametrar, varav 42 miljarder är aktiva samtidigt, och ett kontextfönster på 1 miljon tokens. Meta byggde den för kodning och agentbaserat arbete, enligt ett blogginlägg som citeras av 9to5Mac. Modellen körs på två eller fyra sammankopplade Mac Studio-enheter med hjälp av Apples MLX-ramverk. Den är gratis att ladda ner, med en licens som tillåter kommersiell användning, rapporterade Axios. CNBC uppgav att Meta beskriver licensen som en som tillåter begränsad kommersiell användning.cnbc.com+2

Hårdvaran är dyr. Engadget noterar att det krävs cirka 1 TB RAM för att köra modellen. Meta säger att varje Mac Studio kan ge GPU:n upp till 512 GB minne, så "två Mac Studio-enheter beter sig som en superdator med en terabyte enhetligt minne". Apple har inte satt något pris för 512 GB-versionen, som väntas i slutet av oktober. En uppsättning med fyra 256 GB-maskiner skulle kosta cirka 38 000 dollar. Metas prestandatester tyder på att modellen slår de kinesiska modellerna GLM 5.3 och Kimi K3 på agentbaserade uppgifter och visuell resonemangsförmåga, rapporterade Engadget.engadget.com

En vapenvila mellan rivaler

"Vi är glada över att mamma och pappa leker snällt igen", sa Meta AI-chefen Alexandr Wang till Axios. Han sa att Daniel Gross, en tidigare Apple-chef som nu arbetar på Meta, hjälpte till att föra samman de två företagen. De två sidorna hamnade i en djup konflikt 2021, när Apples integritetsändringar begränsade annonsmålning. Meta uppskattade att dessa ändringar skulle minska deras intäkter för 2022 med 10 miljarder dollar, enligt CNBC. CNBC noterade också att företagen inte hade tillkännagivit ett offentligt partnerskap sedan 2017. Detta kommer kort efter att John Ternus efterträdde Tim Cook som Apples VD.axios.com+1

Eftersom modellen körs på användarnas egna maskiner ser Meta aldrig deras frågor. "Meta har ingen kontroll eller insyn i något av det", sa Wang.axios.com

Strategiska insatser

Enligt Axios kan körning av en så stor modell på Apple-hårdvara ge företag ett alternativ till Nvidia ↘ 1.43% GPU:er och proprietära modeller. Apple publicerade nya chip-prestandatester och teknisk dokumentation om hur MLX delar upp modeller över flera maskiner. Inget av företagen ville säga om partnerskapet kommer att gå vidare.cnbc.com+1

Wang sa att den öppna modellen ligger efter Metas proprietära Muse Wonder, som kom ut tidigare i veckan. "Det här är inte de mest kapabla modellerna som vi har utvecklat eller släppt", sa han till CNBC. "Men vi tror att det kommer att finnas många företag och utvecklare som använder den här modellen och experimenterar med den i liten skala för att sedan skala upp sin användning."cnbc.com