Ranskalainen Mistral julkisti biljoonan parametrin tekoälymallin

Mistral AI julkaisi esikatseluversion Mistral Large 4 -mallista tiistaina 6. lokakuuta. Malli on saanut lempinimen "Le Chonk", koska siinä on biljoona parametria, ja ranskalaislaboratorio kertoo sen olevan Kiinan ulkopuolella rakennetuista avoimen painoarvon malleista "huomattavalla marginaalilla" vahvin. Toistaiseksi kehittäjät voivat käyttää sitä vain Mistralin API:n kautta. Yritys aikoo julkaista mallin painoarvot myöhemmin tässä kuussa, kun turvallisuustestit kumppanien kanssa on saatu päätökseen.techcrunch+3

Julkaisu nostaa Mistralin takaisin huippulaboratorioiden joukkoon aikana, jolloin pääsystä kehittyneeseen tekoälyyn on tullut geopoliittinen jännite. Tähän asti kyvykkäimmät avoimet mallit ovat tulleet Kiinasta. Yhdysvalloissa Trumpin hallinto asetti kesäkuussa väliaikaisia rajoituksia OpenAI:n ja Anthropicin mallien jakelulle.wired+1

Suuri mutta harva malli

Large 4, eli ML4, käyttää asiantuntijoiden sekoitusmallia (mixture-of-experts). Vain 49 miljardia sen parametreista on aktiivisena kerrallaan. Se hyväksyy syötteeksi tekstiä ja kuvia, mutta tuottaa vain tekstiä. Mistral koulutti sen alusta alkaen noin kahden kuukauden aikana 4 000 Nvidian ↗ 0.14% Grace Blackwell GPU-prosessorilla omissa eurooppalaisissa datakeskuksissaan. Koulutusdata kattaa yli 160 kieltä. Mistralin tiedejohtaja Pierre Stock kertoi TechCrunchille, että tämä on "kaksi tai kolme kertaa vähemmän kuin kiinalaisilla kilpailijoillamme".cnbc+3

Yritys suuntaa mallin kyberturvallisuuden, koodauksen, rahoituksen, valmistuksen ja sirusuunnittelun käyttöön. Mistralin omat vertailutestit asettavat sen 62 prosentin tasolle DeepSWE-ohjelmistosuunnittelutestissä. Varhaiset riippumattomat tulokset ovat heikompia. Vals AI:n laaja toimialaindeksi sijoittaa sen OpenAI:n ja Anthropicin kärkimallien taakse, mutta se pärjää hyvin oikeudellisten agenttien vertailutestissä. Mistral itse totesi, että malli on koodauksessa yhä jäljessä kärkeä.venturebeat+3

Painoarvot testausjakson jälkeen

Reuters, Quartz ja VentureBeat raportoivat, että painoarvot julkaistaan 27. lokakuuta. Mistralin oma päivitys X-palvelussa sanoo vain "lokakuun loppu". Esikatselun aikana Mistral tekee yhteistyötä kyberturvallisuusyritysten ja hallitusten kanssa. "Teemme yhteistyötä luotettujen kumppanien ja hallitusten kanssa varmistaaksemme, että avoimen lähdekoodin painoarvoja voidaan käyttää puolustautumiseen, mutta ei haitallisten hyökkäysten suorittamiseen", Stock sanoi. VentureBeat raportoi, että painoarvot julkaistaan räätälöidyllä Mistral-lisenssillä, ja Mistral jatkaa vahvistusoppimisen koulutusta ennen mallin viimeistelyä.pasqualepillitteri+4

Abu Dhabin konferenssissa puhunut toimitusjohtaja Arthur Mensch sanoi, että malli "on itse asiassa kiinalaisia malleja edellä tietyillä osa-alueilla, mukaan lukien kyberturvallisuus", ja että "narratiivi siitä, ettei Eurooppa pysty kilpailemaan, ei pidä paikkaansa".reuters

Vauhtia ennätysrahoituksesta

Julkaisu seuraa Mistralin syyskuussa saamaa 3 miljardin euron Series D -rahoituskierrosta, jossa yrityksen arvostus oli 21 miljardia euroa. Samsung johti tätä kierrosta. Se tapahtui myös päivä sen jälkeen, kun Nvidian tukema Reflection AI julkaisi ensimmäisen avoimen mallinsa.techcrunch+1

Perustaja Guillaume Lample väitti, että yritysten kaikkialla tulisi omistaa omat mallinsa: "Jos käytät suljettua mallia, ei ole mitään takuuta, että se on olemassa vielä huomenna".wired