დასკვნა

Cerebras-მა OpenAI-ის GPT-5.6 Sol-ისთვის ულტრასწრაფი რეჟიმი ჩაუშვა

Cerebras Systems -მა ხუთშაბათს განაცხადა, რომ OpenAI-ის API-ში GPT-5.6 Sol-ისთვის ახალ "ულტრასწრაფ" სერვისს უშვებს, რომელიც წამში 750-მდე გამომავალ ტოკენს ამუშავებს — ეს 14-ჯერ უფრო სწრაფია, ვიდრე სტანდარტული დამუშავება, მოდელის ინტელექტის დაქვეითების გარეშე.

AMD სტარტაპს ყიდულობს, რომელიც AI მოდელებს პირდაპირ ჩიპებში ნერგავს

Advanced Micro Devices, Inc. -მ ხუთშაბათს განაცხადა, რომ მიაღწია საბოლოო შეთანხმებას ტორონტოში დაფუძნებული სტარტაპ Taalas-ის შეძენაზე. ეს კომპანია AI მოდელების წონებს პირდაპირ სილიკონში ნერგავს, რაც ჩვეულებრივ GPU-ებთან შედარებით გაცილებით მაღალ ინფერენსის სიჩქარეს უზრუნველყოფს. ფინანსური პირობები არ გასაჯაროებულა.

OpenAI-მა აღმოაჩინა ოპტიმიზაცია, რომელიც დასკვნის (inference) ხარჯებს ნახევრდება

OpenAI-ის ინჟინრებმა თვის დასაწყისში შეიმუშავეს ოპტიმიზაცია, რომელიც ამცირებს დასკვნის ხარჯებს ნახევარზე მეტით იმ მოდელებისთვის, რომლებზეც ის გამოიყენეს, იტყობინება The Information. ეს მიღწევა, რომელიც ეფუძნება არსებული სერვერული რესურსების უფრო ეფექტურად გამოყენებას და არა დამატებითი ჩიპების დანერგვას, წარმოადგენს მნიშვნელოვან წინსვლას დიდი ენობრივი…