եզրակացություն

Cerebras-ը գործարկել է գերարագ ռեժիմ OpenAI-ի GPT-5.6 Sol-ի համար

Cerebras Systems -ը հինգշաբթի օրը հայտարարեց, որ OpenAI API-ում գործարկում է նոր "Ultrafast" ծառայության մակարդակ GPT-5.6 Sol-ի համար, որն ապահովում է վայրկյանում մինչև 750 ելքային թոքեն՝ մինչև 14 անգամ ավելի արագ, քան ստանդարտ մշակումը՝ առանց մոդելի ինտելեկտի նվազման:

AMD-ն գնում է ստարտափ, որը AI մոդելները ներդնում է անմիջապես չիպերի մեջ

Advanced Micro Devices, Inc. -ն հինգշաբթի հայտարարեց Տորոնտոյում հիմնված Taalas ստարտափը ձեռք բերելու վերջնական համաձայնագրի մասին։ Այս ընկերությունը AI մոդելների կշիռները ներդնում է անմիջապես սիլիկոնի մեջ՝ ապահովելով ինֆերենսի արագություն, որը զգալիորեն գերազանցում է սովորական GPU-ներին։ Ֆինանսական պայմանները չեն բացահայտվել:

OpenAI-ը գտել է օպտիմալացում, որը կիսով չափ կրճատում է եզրակացության (inference) ծախսերը

OpenAI-ի ինժեներները ամսվա սկզբին մշակել են օպտիմալացում, որը կրճատում է եզրակացության ծախսերը ավելի քան կիսով չափ այն մոդելների համար, որոնց վրա այն կիրառվել է, հայտնում է The Information-ը: Այս բեկումը, որը բխում է գոյություն ունեցող սերվերային ռեսուրսներից ավելի մեծ արդյունավետություն…