Prancūzijos „Mistral“ išleido „Large 4“ AI modelį su atvirais svoriais

Ketvirtadienį „Mistral“ išleido atvirus „Mistral Large 4“ – savo 1 trilijono parametrų pagrindinio modelio, praminto „Le Chonk“, – svorius. Prancūzijos bendrovė teigia, kad dar trys savaitės mokymosi su pastiprinimu pavertė šį modelį geriausiu atvirų svorių pasirinkimu programavimo ir kibernetinės gynybos srityse. Svoriai prieinami „Hugging Face“ platformoje. Šis išleidimas seka po spalio 6 d. peržiūros ir vyksta Europai bandant kurti alternatyvas JAV ir Kinijos dirbtiniam intelektui.mistral.ai+1

Rezultatų pagerėjimas po peržiūros

„Mistral“ teigia, kad modelio rezultatas „Terminal-Bench 4.0“ teste pakilo 13 procentinių punktų – nuo 28% peržiūros metu iki 41%, kartu sunaudojant 30% mažiau išvesties žetonų. „Fortune“ pranešė, kad šis rezultatas prilygsta Kinijos „GLM-5.3“, kuris buvo laikomas stipriausiu atviru modeliu. „Artificial Analysis Coding Agent Index“ duomenimis, „Mistral“ teigia, kad „Large 4“ surenka 48%. Tai maždaug atitinka „GLM-5.3“, tačiau „Large 4“ vidutiniškai sunaudoja 47% mažiau žetonų vienai užduočiai. Uždari modeliai bendrai vis dar pirmauja. „Anthropic“ „Mythos 5.1“ „Terminal-Bench“ teste surinko 60,9%.fortune.com+1

Modelis yra „mixture-of-experts“ architektūros. Jis turi 1,05 trilijono parametrų, tačiau kiekvienai užduočiai aktyvuoja apie 52 milijardus, be to, siūlo žemo, vidutinio ir aukšto samprotavimo režimus. Jis buvo treniruojamas naudojant 3 800 „Nvidia“ ↘ 4.27% „Grace Blackwell“ GPU „Mistral“ Europos duomenų centruose. Licencija yra modifikuota MIT licencija. Kiekvienas gali naudoti, modifikuoti ir komercializuoti modelį, tačiau įmonės, parduodančios jį kaip talpinamą modelį-kaip-paslaugą, privalo turėti atskirą komercinę licenciją. „Microsoft“ ↗ 2.75% taip pat siūlo jį per „Microsoft Foundry“.mistral.ai+1

Kreipimasis į kibernetinės gynybos specialistus

„Mistral“ teigia, kad „Large 4“ „Artificial Analysis Cyber Index“ teste surenka 51%. Jis taip pat vidutiniškai atmeta 96,6% kenkėjiškų kibernetinių užklausų, o tai, bendrovės teigimu, yra aukščiausias rodiklis tarp atvirų modelių. Saugumo įmonės, įskaitant „Cisco“ ↗ 5.11%, „CrowdStrike“ ↗ 5.39% ir „Cloudflare“ ↗ 9.30%, pateikė pareiškimus, palaikančius šį išleidimą. „Mistral“ nurodė, kad peržiūros metu pastebėjo „potencialą panaudoti modelį realių atakų vykdymui“ tiesioginiame sraute, todėl griežtina savo apsaugos priemones.mistral.ai

„Tai yra lūžio taškas pasaulinėse lenktynėse dėl lyderystės dirbtinio intelekto srityje“, – žurnalistams sakė „Mistral“ mokslo viceprezidentas Pierre'as Stockas. Jis teigė, kad kai svoriai tampa vieši, „neįmanoma užkirsti kelio prieigai“. Stockas taip pat suabejojo, ar galima pasitikėti Kinijos atvirais modeliais. Jis paminėjo birželio mėnesį, kai JAV eksporto kontrolės direktyva privertė „Anthropic“ beveik trims savaitėms sustabdyti prieigą prie kai kurių savo modelių.wired.com+1

Finansavimo spraga

Per trejus metus „Mistral“ pritraukė apie 6 milijardus dolerių. Paskutinis finansavimo etapas buvo 3 milijardų eurų „Series D“ raundas, kuriam vadovavo „Samsung“, įvertinęs bendrovę daugiau nei 21 milijardu eurų. Kai kurie saugumo ekspertai suabejojo nacionalistiniu pateikimu. „Tai akivaizdžiai dvejopos paskirties technologija“, – sakė Rafe'as Pillingas iš „Sophos“. Jis pridūrė, kad „techninė realybė ir naratyvas, kuris dažnai turi nacionalistinį atspalvį, yra du skirtingi dalykai“.fortune.com+1