Nvidia-მ აგენტური ხელოვნური ინტელექტისთვის უფასო, ღია კოდის მქონე მოდელი წარადგინა

Nvidia ↘ 0.31% სამშაბათს წარადგინა Nemotron 3.5 Lightning, კორპორაციული გამოყენებისთვის განკუთვნილი უფასო, ღია კოდის მქონე ხელოვნური ინტელექტის მოდელი, რომლის გაშვებაც ერთ გრაფიკულ პროცესორზეც (GPU) არის შესაძლებელი. მასთან ერთად კომპანიამ გამოუშვა მოდელების მარშრუტიზაციის ახალი ინსტრუმენტი NeMo Switchyard, რომელიც ხელოვნური ინტელექტის სამუშაოების ხარჯების შესამცირებლად შეიქმნა.

ეს არის Nvidia-ს პირველი ღია კოდის მქონე მოდელი მას შემდეგ, რაც ივლისის ბოლოს გენერალურმა დირექტორმა ჯენსენ ჰუანგმა X-ზე ღია წერილი გამოაქვეყნა. წერილში ის იცავდა ხელოვნური ინტელექტის ღია მოდელებს და მოუწოდებდა აშშ-ის მთავრობას, თავი აარიდოს ისეთ შეზღუდვებს, რომლებმაც შესაძლოა ინოვაციები ქვეყნის ფარგლებს გარეთ გაიტანოს.cnbc

მსუბუქი მოდელი მუდმივად აქტიური აგენტებისთვის

Nemotron 3.5 Lightning არის 30 მილიარდი პარამეტრის მქონე „ექსპერტთა ნაზავის“ (mixture-of-experts) მოდელი, რომელიც შექმნილია მაღალი მოცულობის, სპეციალიზებული ამოცანებისთვის უფრო დიდ მრავალაგენტიან სისტემებში. Nvidia-ს განცხადებით, მოდელი თავის კლასში სხვა მოდელებთან შედარებით ოთხჯერ უფრო სწრაფ შედეგს და აგენტური ამოცანების 30%-ით უფრო სწრაფად შესრულებას უზრუნველყოფს.blogs.nvidia+1

მოდელი სრულად მორგებადია და მისი დამატებითი გაწვრთნა ორგანიზაციის საკუთარ მონაცემებზეა შესაძლებელი. კარი ბრისკიმ, Nvidia-ს ვიცე-პრეზიდენტმა გენერაციული ხელოვნური ინტელექტის პროგრამული უზრუნველყოფის მიმართულებით, Wall Street Journal News Corp-ს ↗ 0.34% განუცხადა, რომ მოდელის მორგება „საოცრად მარტივია“. მან მაგალითად მოიყვანა CodeRabbit: კომპანიამ გამოიყენა Nvidia-ს სტანდარტული წვრთნის მეთოდი და დაახლოებით ორ საათში, 85 დოლარად შექმნა მარშრუტიზატორი აგენტი. მოდელი ასევე გამოსცადეს და მოირგეს სხვა კომპანიებმაც, მათ შორის CrowdStrike-მა ↘ 2.03% და Harvey-მ.siliconangle+1

Nvidia-სთვის ღია კოდის მქონე ხელოვნური ინტელექტი მკაფიო ბიზნეს ინტერესებს ემსახურება. „უფასო ხელოვნური ინტელექტი შესანიშნავი უნდა იყოს აპარატურისთვის“, განუცხადა ჰუანგმა Axios-ს გასულ თვეში, „უფასო ხელოვნური ინტელექტი შესანიშნავი უნდა იყოს ჩიპებისთვის“.cnbc

NeMo Switchyard: სწორ მოდელზე მარშრუტიზაცია

Lightning-თან ერთად, Nvidia-მ გამოუშვა NeMo Switchyard, ღია კოდის მქონე მოდელების მარშრუტიზაციის ბიბლიოთეკა, რომელიც ავტომატურად ამისამართებს ხელოვნური ინტელექტის თითოეულ მოთხოვნას ყველაზე შესაფერის მოდელზე ხარისხის, შეყოვნებისა და ღირებულების გათვალისწინებით. შიდა ტესტებმა აჩვენა, რომ Switchyard ინარჩუნებს მოწინავე დონის სიზუსტეს, ხოლო ამოცანის შესრულების ხარჯებს თითქმის მესამედამდე ამცირებს მხოლოდ ერთი მოწინავე მოდელის გამოყენებასთან შედარებით.blogs.nvidia

პარტნიორებმა უკვე გააზიარეს პირველი შედეგები: Ramp-მა მიაღწია მოწინავე მოდელის შესაბამის წარმადობას, ამასთან ხარჯები 58%-ით, ხოლო მუშაობის დრო 33%-ით შეამცირა. LangChain-მა კი ხარჯების 74%-იანი შემცირება მიიღო იმით, რომ მოთხოვნების მხოლოდ 7% გადაამისამართა მოწინავე მოდელზე.developer.nvidia+1

ღია კოდის მქონე ხელოვნური ინტელექტის შეიარაღების რბოლა

ეს გამოშვება მოხდა ერთი დღის შემდეგ მას შემდეგ, რაც Meta Platforms-ის ↗ 1.60% გენერალურმა დირექტორმა, მარკ ცუკერბერგმა გამოაქვეყნა მანიფესტი ღია კოდის მქონე ხელოვნური ინტელექტის მხარდასაჭერად, პარალელურად კი Meta-მ კოდირების ახალი მოდელი წარადგინა. Nvidia-ს ეს ნაბიჯი ასევე მოჰყვა ჰუანგის ჩართვას პოლიტიკურ დებატებში, რომლებიც ჩინურმა მოდელმა Kimi K3-მა გამოიწვია. ამ უკანასკნელმა ვაშინგტონში შეშფოთება გამოიწვია დისტილაციის ტექნოლოგიების მეშვეობით ინტელექტუალური საკუთრების შესაძლო მოპარვის გამო.cnbc

Nemotron 3.5 Lightning ხელმისაწვდომია Hugging Face-ზე, ModelScope-ზე, OpenRouter-სა და თავად Nvidia-ს პლატფორმებზე. The Information-ის თანახმად, Nvidia უკვე მუშაობს მომავალი თაობის Nemotron 4 მოდელზეც.tradingview+1