Մուրատիի ստարտափը թողարկել է բաց քաշային AI մոդել՝ ձեռնարկությունների տվյալների հետ կապված մտավախությունների ֆոնին

Microsoft ↗ 0.52%-ի գործադիր տնօրեն Սատյա Նադելան ներկայացրել է այն, ինչ նա անվանում է «Տեղեկատվական հակադարձ պարադոքս»՝ պնդելով, որ ձեռնարկությունների AI ներդնող ընկերություններն անգիտակցաբար զիջում են իրենց ամենաարժեքավոր ակտիվը՝ սեփական գիտելիքները, ամեն անգամ, երբ փոխազդում են մոդելի հետ:

Երկուշաբթի՝ հուլիսի 13-ին, X-ում հրապարակված գրառման մեջ Նադելան գրել է, որ կազմակերպությունները «ըստ էության վճարում են ինտելեկտի համար երկու անգամ՝ մեկ անգամ փողով, և երկրորդ անգամ՝ ավելի արժեքավոր մի բանով. սեփական գիտելիքներով, որոնք դուք պետք է բացահայտեք, որպեսզի այդ ինտելեկտը օգտակար դառնա»։ Նա պնդում էր, որ որքան ընկերությունը ցանկանում է, որ իր AI-ն ավելի լավ աշխատի, այնքան ավելի շատ ներքին փորձառություն, աշխատանքային հոսքեր և որոշումների կայացման գործընթացներ պետք է բացահայտի մոդել մատակարարողներին:firstpost+2

«Ինտելեկտի արտանետման» խնդիրը

Նադելան զգուշացրել է, որ AI համակարգերը գրավում են այն, ինչ նա անվանում է «ինտելեկտի արտանետում»՝ ուղղումներ, գնահատականներ և օգտագործման տվյալներ, որոնք գեներացվում են ամեն անգամ, երբ աշխատակիցները փոխազդում են AI գործիքների հետ: Այս տվյալները բացահայտում են ընկերության ներքին գիտելիքները, որոնք մատակարարները կարող են օգտագործել մրցակցային ապրանքներ ստեղծելու կամ տնտեսական արժեքը ենթակառուցվածքների օպերատորների ձեռքում կենտրոնացնելու համար, այլ ոչ թե այն ընկերությունների, որոնք ստեղծում են այդ գիտելիքը:the-decoder+1

Նրա առաջարկած լուծումը յուրաքանչյուր ձեռնարկության ներսում ամուր «վստահության սահմանն» է, որը կառուցված է հինգ հենասյուների վրա, որոնք նա անվանում է Հինգ C-ներ՝ Վերահսկողություն (Control), Հնարավորություն (Capability), Ընտրություն (Choice), Արժեք (Cost) և Բաղադրյալ (Compound): Շրջանակը հորդորում է ընկերություններին տիրապետել իրենց գնահատումներին և հետադարձ կապի ցիկլերին, կառուցել մասնավոր ուսումնական միջավայրեր, պահպանել նվագախմբային շերտերը ցանկացած մեկ մոդել մատակարարից անկախ, օպտիմալացնել ծախսերը և ստեղծել շարունակական ուսուցման համակարգեր, որոնք ներքին արժեք են ստեղծում:aiweekly+3

Թորման կրկնակի ստանդարտը

Նադելան նաև քննադատել է AI լաբորատորիաներին, ներառյալ OpenAI-ին և Anthropic-ին, իրենց ծառայությունների պայմաններում մոդելների թորումը՝ ավելի մեծ մոդելների ելքային տվյալների օգտագործմամբ ավելի փոքր մոդելներ վարժեցնելու պրակտիկան, արգելելու համար: Նա պնդել է, որ այս դիրքորոշումը կեղծավոր է՝ հաշվի առնելով, որ նույն լաբորատորիաներն ազատորեն օգտագործել են բաց համացանցը՝ իրենց սեփական համակարգերը վարժեցնելու համար: Նադելան պնդում էր, որ եթե լաբորատորիաները կարող են սովորել հանրային տվյալներից, ապա ձեռնարկությունները պետք է ազատ լինեն ուսումնասիրելու և բարելավելու այն արդյունքները, որոնց համար վճարում են:techcrunch+2

Մուրատիի Inkling մոդելը մտնում է ասպարեզ

Նադելայի բարձրացրած մտահոգությունները գործնական արձագանք գտան չորեքշաբթի օրը, երբ Thinking Machines Lab-ը՝ OpenAI-ի նախկին տեխնիկական տնօրեն Միրա Մուրատիի հիմնադրած ստարտափը, թողարկեց իր առաջին մոդելը՝ Inkling անունով: 975 միլիարդ պարամետր ունեցող բաց քաշային մոդելը ընկերություններին թույլ է տալիս ներբեռնել և հարմարեցնել այն իրենց սեփական տվյալներին, ինչը ուղղակի հակադրություն է այն փակ մոդելների, որոնք Նադելան քննադատում էր: Palantir ↗ 3.68%-ի գործադիր տնօրեն Ալեքս Կարպը մի քանի շաբաթ առաջ նմանատիպ զգուշացումներ էր հնչեցրել՝ ասելով ձեռնարկությունների ղեկավարներին, որ «ինչ-որ բան լրջորեն սխալ է» այն հարցում, թե ինչպես են AI լաբորատորիաները կառավարում հաճախորդների տվյալները:wsj+5

«Վաճառողը գնալով ավելին է իմանում ձեր մասին, երբ օգտագործում եք այն, ինչ գնել եք», — գրել է Նադելան, «մինչդեռ դուք շատ քիչ բան եք իմանում այն մասին, թե ինչ է սովորում վաճառողը փոխարենը»:thenextweb