Ֆրանսիական Mistral-ը ներկայացրել է 1 տրիլիոն պարամետր ունեցող AI մոդել

Mistral AI-ն երեքշաբթի՝ հոկտեմբերի 6-ին, թողարկել է Mistral Large 4-ի նախնական տարբերակը: Մոդելը ստացել է "Le Chonk" մականունը, քանի որ այն ունի 1 տրիլիոն պարամետր, և ֆրանսիական լաբորատորիան պնդում է, որ այն Չինաստանից դուրս ստեղծված ամենահզոր բաց կշիռներով մոդելն է՝ "զգալի առավելությամբ": Առայժմ մշակողները կարող են օգտագործել այն միայն Mistral-ի API-ի միջոցով: Ընկերությունը նախատեսում է հրապարակել մոդելի կշիռները այս ամսվա վերջին՝ գործընկերների հետ անվտանգության թեստավորումից հետո:techcrunch+3

Այս թողարկումը Mistral-ին վերադարձնում է առաջատար լաբորատորիաների շարքը մի ժամանակաշրջանում, երբ առաջադեմ AI-ի հասանելիությունը դարձել է աշխարհաքաղաքական լարվածության առարկա: Ամենակարողունակ բաց մոդելները մինչ այժմ գալիս էին Չինաստանից: Միացյալ Նահանգներում Թրամփի վարչակազմը հունիսին ժամանակավոր սահմանափակումներ էր մտցրել OpenAI և Anthropic մոդելների տարածման վրա:wired+1

Մեծ, բայց նոսր մոդել

Large 4-ը կամ ML4-ը օգտագործում է փորձագետների խառնուրդի (mixture-of-experts) դիզայն: Ցանկացած պահի ակտիվ են դրա 49 միլիարդ պարամետրերը միայն: Այն ընդունում է տեքստ և պատկերներ որպես մուտքային տվյալներ, բայց արտադրում է միայն տեքստ: Mistral-ը այն զրոյից մարզել է մոտ երկու ամսվա ընթացքում 4,000 Nvidia ↘ 0.74% Grace Blackwell GPU-ների վրա՝ իր սեփական եվրոպական տվյալների կենտրոններում: Մարզման տվյալները ընդգրկում են ավելի քան 160 լեզու: Mistral-ի գիտության գծով փոխնախագահ Պիեռ Ստոկը TechCrunch-ին ասել է, որ սա "երկու-երեք անգամ պակաս է, քան մեր չինացի մրցակիցների դեպքում":cnbc+3

Ընկերությունը մոդելը ուղղում է կիբերանվտանգության, կոդավորման, ֆինանսների, արտադրության և չիպերի նախագծման ոլորտներին: Mistral-ի սեփական չափանիշները այն դնում են 62% մակարդակի վրա DeepSWE ծրագրային ինժեներական թեստում: Վաղ անկախ արդյունքները ավելի թույլ են: Vals AI-ի լայն արդյունաբերական ինդեքսը այն դասում է OpenAI-ի և Anthropic-ի առաջատար մոդելներից հետո, սակայն այն լավ արդյունքներ է ցույց տալիս իրավական գործակալի չափանիշներով: Mistral-ն ինքն էլ նշել է, որ մոդելը կոդավորման մեջ դեռ հետ է մնում առաջատարներից:venturebeat+3

Կշիռները թեստավորման պատուհանից հետո

Reuters-ը, Quartz-ը և VentureBeat-ը հայտնում են, որ կշիռները նախատեսված են հոկտեմբերի 27-ին: Mistral-ի սեփական գրառումը X-ում նշում է միայն "հոկտեմբերի վերջ": Նախնական դիտման ընթացքում Mistral-ը աշխատում է կիբերանվտանգության ընկերությունների և կառավարությունների հետ: "Մենք կաշխատենք վստահելի գործընկերների և կառավարությունների հետ՝ համոզվելու համար, որ բաց կոդով կշիռները կարող են օգտագործվել պաշտպանվելու, այլ ոչ թե չարամիտ հարձակումներ իրականացնելու համար", — ասել է Ստոկը: VentureBeat-ը հայտնում է, որ կշիռները կտրամադրվեն Mistral-ի հատուկ լիցենզիայի ներքո, և Mistral-ը կշարունակի ամրապնդող ուսուցման (reinforcement-learning) մարզումները մինչև մոդելի վերջնական տեսքի բերելը:pasqualepillitteri+4

Աբու Դաբիում կայացած համաժողովում ելույթ ունենալիս գործադիր տնօրեն Արթուր Մենշը ասել է, որ մոդելը "իրականում որոշ ասպեկտներով, այդ թվում՝ կիբերանվտանգության, գերազանցում է չինական մոդելներին", և որ "այն պատմությունը, թե Եվրոպան չի կարող մրցակցել, ճշմարտություն չէ":reuters

Թափ՝ ռեկորդային ներդրումներից հետո

Այս թողարկումը հաջորդում է սեպտեմբերին Mistral-ի կողմից ներգրավված 3 միլիարդ եվրոյի D սերիայի ֆինանսավորմանը՝ 21 միլիարդ եվրո գնահատմամբ: Ռաունդը գլխավորել է Samsung-ը: Այն տեղի է ունեցել Nvidia-ի կողմից աջակցվող Reflection AI-ի առաջին բաց մոդելի թողարկումից մեկ օր անց:techcrunch+1

Համահիմնադիր Գիյոմ Լամպլը պնդել է, որ ընկերությունները ամենուր պետք է տիրապետեն իրենց մոդելներին. "Եթե դուք օգտագործում եք փակ մոդել, ոչ մի երաշխիք չկա, որ այն վաղը դեռ կլինի":wired