DeepSeek-მა ხელოვნური ინტელექტის ძრავა გაასაჯაროვა, რომელიც ხარჯებს ამცირებს

სამშაბათს, 20 ოქტომბერს, ჩინურმა AI დეველოპერმა DeepSeek-მა გამოუშვა DeepInfer, შიდა პროგრამული უზრუნველყოფა, რომელსაც ის თავისი მოდელების მასშტაბური მომსახურებისთვის იყენებს, როგორც ღია კოდის პროექტი. კომპანიამ ეს ნაბიჯი წარადგინა, როგორც დიდი AI სისტემების მუშაობის ღირებულების შემცირების გზა. Bloomberg-ის ცნობით, ამ გადაწყვეტილებამ შესაძლოა DeepSeek-ის ტექნოლოგია ბიზნესებისთვის უფრო იაფი და ხელმისაწვდომი გახადოს. DeepInfer არის პროგრამული უზრუნველყოფა, რომელიც კომპანიის მოდელებს უფრო სწრაფად მუშაობისა და გამოთვლითი რესურსების უფრო ეფექტურად გამოყენების საშუალებას აძლევს.bloomberg.com

DeepSeek-ის განცხადებით, DeepInfer უზრუნველყოფს DeepSeek-V4.1-Flash-ის მუშაობას "მასშტაბურად, მაღალი გამტარუნარიანობითა და დაბალი შეყოვნებით". კომპანიამ X-ზე გამოქვეყნებულ განცხადებაში აღნიშნა, რომ ის თავის საწარმოო სტეკს აზიარებს, რათა "დაეხმაროს საზოგადოებას გამოთვლითი ხარჯების შემცირებაში, ენერგიის მოხმარების კლებაში და AI-ის უფრო ხელმისაწვდომს გახდომაში". კომპანიამ დაამატა, რომ მომავალი მოდელების დასკვნის კოდი და შემდგომი ოპტიმიზაციები იმავე საცავში გამოქვეყნდება.alphasignal.ai+1

რა შედის რელიზში

GitHub-ის საცავი DeepInfer-ს მოიხსენიებს, როგორც "მაღალი წარმადობის დასკვნის ჩარჩოს, რომელიც უზრუნველყოფს DeepSeek-ის ფართომასშტაბიან საწარმოო სერვისებს". პირველი რელიზი გვთავაზობს ოფლაინ დასკვნებს და მხარს უჭერს DeepSeek-V4.1-Flash-ს. კოდი ვრცელდება Apache 2.0 ლიცენზიით. ის მოიცავს DeepSeek-ის პერსონალურ ბირთვებს, როგორიცაა FlashMLA, DeepGEMM და DeepEP, ასევე DSpark სპეკულაციურ დეკოდირებას, პარტიულ-ინვარიანტულ დასკვნებს და სტრუქტურირებულ გამომავალს. ჩარჩო აგებულია ღია კოდის vLLM პროექტზე.alphasignal.ai+1

DeepSeek-მა ასევე გამოუშვა deepseek-recipe, კომპონენტი, რომელიც API მოთხოვნებს გარდაქმნის მოდელის მოთხოვნებად და აანალიზებს შედეგს. ის შეესაბამება DeepSeek-ის ოფიციალური API-ის დამუშავების ლოგიკას, ამიტომ თვითმასპინძელი განლაგებები ისევე მუშაობს, როგორც კომპანიის საკუთარი სერვისი.tech.ifeng.com

Nvidia და Huawei აპარატურა

DeepInfer მხარს უჭერს Nvidia SM100 GPU-ებს და Huawei Ascend 950 NPU-ებს. გასულ კვირას DeepSeek-მა განაცხადა, რომ გეგმავს მოდელების წინასწარ გაწვრთნას იმავე Huawei-ს ჩიპზე 2026 წლის ბოლომდე. რელიზის შესახებ ჩინური მედიის გაშუქების თანახმად, ერთი DeepSeek კლასტერი დღეში 155 ტრილიონ ტოკენს ამუშავებს. ეს მაჩვენებელი დამოუკიდებლად არ არის დადასტურებული.aiweekly.co+2

განცხადება გაკეთდა მოდელის V4.1-Flash-1017-მდე განახლებიდან სამი დღის შემდეგ, API-ის ფასების უცვლელად. Hualong Securities-ის თქმით, DeepSeek-ის სწრაფი განახლებები ამყარებს არგუმენტს ჩინეთში ხარჯების კლებისა და დასკვნითი გამოთვლების მიმართ მზარდი მოთხოვნის შესახებ.stcn.com

გამოტოვებული ნაწილები

ეს რელიზი არ არის სრული მომსახურების სისტემა. README-ის მიხედვით, ის არ მოიცავს KV ქეშის სისტემას, პრეფილისა და დეკოდირების დეზაგრეგაციას ან დატვირთვის დაბალანსებას რეპლიკებს შორის. კომპანიებს, რომლებსაც სურთ საწარმოო სერვისის გაშვება, მოუწევთ ამ ინფრასტრუქტურის დამოუკიდებლად აშენება. ეს DeepInfer-ს ყველაზე სასარგებლოს ხდის იმ გუნდებისთვის, რომლებიც უკვე მართავენ განაწილებულ დასკვნით სისტემებს.fourweekmba.com+1

ჩინურენოვან განცხადებაში DeepSeek-მა აღნიშნა, რომ იმედოვნებს, რომ ეს რელიზი დაეხმარება დეველოპერებსა და საწარმოებს კერძო და საჯარო ღრუბლოვანი განლაგებების ეფექტურად აშენებაში, "რათა ინტელექტი უფრო ფართო მოსახლეობამდე მივიდეს უფრო დაბალ ფასად".sina.cn