ფრანგულმა Mistral-მა 1 ტრილიონი პარამეტრის მქონე AI მოდელი წარადგინა

Mistral AI-მ სამშაბათს, 6 ოქტომბერს, Mistral Large 4-ის წინასწარი ვერსია წარადგინა. მოდელს მეტსახელად "Le Chonk" შეარქვეს, რადგან ის 1 ტრილიონ პარამეტრს მოიცავს. ფრანგული ლაბორატორიის განცხადებით, ეს არის ჩინეთის გარეთ შექმნილი ყველაზე ძლიერი ღია წონების მქონე მოდელი "მნიშვნელოვანი უპირატესობით". ამ ეტაპზე დეველოპერებს მისი გამოყენება მხოლოდ Mistral-ის API-ის საშუალებით შეუძლიათ. კომპანია მოდელის წონების გამოქვეყნებას თვის ბოლოს გეგმავს, პარტნიორებთან უსაფრთხოების ტესტირების გავლის შემდეგ.techcrunch+3

ეს გაშვება Mistral-ს კვლავ წამყვან ლაბორატორიებს შორის აბრუნებს იმ დროს, როდესაც მოწინავე ხელოვნურ ინტელექტზე წვდომა გეოპოლიტიკური დაძაბულობის საგანი გახდა. ყველაზე შესაძლებლობების მქონე ღია მოდელები აქამდე ჩინეთიდან მოდიოდა. შეერთებულ შტატებში ტრამპის ადმინისტრაციამ ივნისში დროებითი შეზღუდვები დააწესა OpenAI-სა და Anthropic-ის მოდელების გავრცელებაზე.wired+1

დიდი, მაგრამ გაფანტული მოდელი

Large 4, ანუ ML4, იყენებს ექსპერტთა ნარევის (mixture-of-experts) დიზაინს. ნებისმიერ დროს მისი 49 მილიარდი პარამეტრია აქტიური. ის იღებს ტექსტსა და გამოსახულებას, მაგრამ გამომავალად მხოლოდ ტექსტს იძლევა. Mistral-მა ის ნულიდან, დაახლოებით ორი თვის განმავლობაში, 4 000 Nvidia ↗ 0.14% Grace Blackwell GPU-ზე გაწვრთნა საკუთარ ევროპულ მონაცემთა ცენტრებში. სასწავლო მონაცემები 160-ზე მეტ ენას მოიცავს. Mistral-ის მეცნიერების ვიცე-პრეზიდენტმა პიერ სტოკმა TechCrunch-ს განუცხადა, რომ ეს "ორჯერ ან სამჯერ ნაკლებია, ვიდრე ჩვენი ჩინელი კონკურენტების შემთხვევაში."cnbc+3

კომპანია მოდელს კიბერუსაფრთხოების, კოდირების, ფინანსების, წარმოებისა და ჩიპების დიზაინის სფეროებისთვის ავითარებს. Mistral-ის საკუთარი შეფასებით, მოდელმა DeepSWE პროგრამული უზრუნველყოფის საინჟინრო ტესტში 62% აჩვენა. ადრეული დამოუკიდებელი შედეგები უფრო სუსტია. Vals AI-ის ინდუსტრიული ინდექსი მას OpenAI-სა და Anthropic-ის წამყვანი მოდელების უკან ათავსებს, თუმცა ის კარგ შედეგებს აჩვენებს იურიდიული აგენტის ბენჩმარკში. თავად Mistral-მა აღიარა, რომ მოდელი კოდირებაში ჯერ კიდევ ჩამორჩება ლიდერებს.venturebeat+3

წონები ტესტირების პერიოდის შემდეგ

Reuters, Quartz და VentureBeat იტყობინებიან, რომ წონები 27 ოქტომბერს გამოქვეყნდება. Mistral-ის პოსტი X-ზე მხოლოდ "ოქტომბრის ბოლოს" მიუთითებს. წინასწარი ვერსიის პერიოდში Mistral თანამშრომლობს კიბერუსაფრთხოების ფირმებთან და მთავრობებთან. "ჩვენ ვიმუშავებთ სანდო პარტნიორებთან და მთავრობებთან, რათა დავრწმუნდეთ, რომ ღია კოდის წონები გამოყენებული იქნება თავდაცვისთვის და არა მავნე თავდასხმებისთვის," – განაცხადა სტოკმა. VentureBeat-ის ცნობით, წონები გავრცელდება Mistral-ის სპეციალური ლიცენზიით და კომპანია გააგრძელებს გაძლიერებული სწავლების (reinforcement-learning) პროცესს მოდელის საბოლოო ვერსიის დასრულებამდე.pasqualepillitteri+4

აბუ-დაბიში გამართულ კონფერენციაზე გამოსვლისას, აღმასრულებელმა დირექტორმა არტურ მენშმა განაცხადა, რომ მოდელი "ფაქტობრივად აღემატება ჩინურ მოდელებს გარკვეულ ასპექტებში, მათ შორის კიბერუსაფრთხოებაში" და რომ "ნარატივი იმის შესახებ, რომ ევროპას კონკურენცია არ შეუძლია, სიმართლეს არ შეესაბამება."reuters

იმპულსი რეკორდული დაფინანსების შემდეგ

ეს გამოშვება მოჰყვა Mistral-ის მიერ სექტემბერში მოზიდულ 3 მილიარდი ევროს ოდენობის D სერიის დაფინანსებას, 21 მილიარდი ევროს შეფასებით. რაუნდს Samsung ლიდერობდა. ეს მოხდა Nvidia-ს მიერ მხარდაჭერილი Reflection AI-ის პირველი ღია მოდელის გამოშვებიდან ერთი დღის შემდეგ.techcrunch+1

თანადამფუძნებელმა გიიომ ლამპლიმ განაცხადა, რომ კომპანიებმა ყველგან უნდა ფლობდნენ საკუთარ მოდელებს: "თუ იყენებთ დახურულ მოდელს, არ არსებობს გარანტია, რომ ის ხვალაც ხელმისაწვდომი იქნება."wired