Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]

digg+1facebook+1finance.biggo+1OpenAI-ի ինժեներները ամսվա սկզբին մշակել են օպտիմալացում, որը կրճատում է եզրակացության ծախսերը ավելի քան կիսով չափ այն մոդելների համար, որոնց վրա այն կիրառվել է, հայտնում է The Information-ը: Այս բեկումը, որը բխում է գոյություն ունեցող սերվերային ռեսուրսներից ավելի մեծ արդյունավետություն քամելուց, այլ ոչ թե լրացուցիչ չիպեր տեղակայելուց, նշանավորում է մեծ լեզվական մոդելների մասշտաբով գործարկման տնտեսության մեջ նշանակալի առաջընթաց:digg+1
Այն բանից հետո, երբ օպտիմալացումը կիրառվեց ChatGPT-ի չմուտքագրված երթևեկության վրա, այդ երթևեկությունը սնուցելու համար անհրաժեշտ GPU-ների քանակը նվազեց մինչև ընդամենը մի քանի հարյուր, ըստ երկուշաբթի օրը հրապարակված տեղեկատվության: OpenAI-ի ինժեներական թիմը ներքին կարգով տեղեկացրել է գործընկերներին, որ մեթոդը հիմնականում բարելավում է գոյություն ունեցող սերվերային ենթակառուցվածքի օգտագործման արդյունավետությունը: Ընկերությունը հրապարակավ չի մեկնաբանել այս զարգացումը:odaily+2
Ծախսերի կրճատումը տեղի է ունենում այն ժամանակ, երբ OpenAI-ը բախվում է հաշվողական ծախսերի աճին: Ըստ The Information-ի՝ ընկերությունը միայն 2026 թվականի առաջին եռամսյակում ծախսել է 3,7 միլիարդ դոլար, ինչը այդ ժամանակահատվածի 5,7 միլիարդ դոլար եկամտի ավելի քան կեսն է: OpenAI-ը զուգահեռաբար փնտրում է նաև սարքավորումային լուծումներ. անցյալ շաբաթ ընկերությունը ներկայացրեց Jalapeño-ն՝ իր առաջին հատուկ եզրակացության չիպը, որը մշակվել է Broadcom-ի հետ համատեղ և նախատեսված է լեզվական մոդելների հավելվածների համար ավելի լավ արդյունավետություն ապահովելու համար:techcrunch+2
Օպտիմալացումը AI ընկերությունների միջև ավելի լայն մրցակցության մի մասն է՝ օգտատերերին մոդելներ մատուցելու ծախսերը նվազեցնելու համար: Anthropic-ը համաձայնագրեր է ստորագրել Google Alphabet Inc.-ի և Broadcom-ի հաջորդ սերնդի TPU հզորությունների մի քանի գիգավատի համար, որոնք ակնկալվում է, որ կգործարկվեն հաջորդ տարվանից: Anthropic-ը նաև նախնական բանակցություններ է վարել լոնդոնյան Fractile ստարտափի հետ՝ մասնագիտացված եզրակացության չիպեր գնելու վերաբերյալ, թեև դրանք առևտրային առումով հասանելի կլինեն միայն 2027 թվականի շրջակայքում:reddit+2
Եզրակացության ծախսերը նվազեցնելու մրցավազքը դարձել է ոլորտի կենտրոնական մտահոգությունը, որտեղ կորպորատիվ AI բյուջեներն այժմ գերակշռում են եզրակացության ծախսերով: OpenAI-ի համար, որը 2026 թվականին կանխատեսվում է, որ կսպառի 17 միլիարդ դոլար կանխիկ գումար, ցանկացած մեթոդ, որը կիսով չափ կրճատում է իր հարյուրավոր միլիոնավոր օգտատերերին սպասարկելու ծախսերը, կարող է էապես փոխել դեպի շահութաբերություն տանող իր ուղին:economist+1