Murati startuolis išleido atviro svorio DI modelį, baiminantis dėl įmonių duomenų saugumo

„Microsoft“ ↗ 0.03% generalinis direktorius Satya Nadella pristatė tai, ką jis vadina „atvirkštiniu informacijos paradoksu“, teigdamas, kad įmonės, diegiančios verslo DI, nesąmoningai atiduoda savo vertingiausią turtą – nuosavybės teise saugomas žinias – kiekvieną kartą, kai sąveikauja su modeliu.

Pirmadienį, liepos 13 d., socialiniame tinkle „X“ paskelbtame įraše Nadella rašė, kad organizacijos „iš esmės moka už intelektą dukart: vieną kartą pinigais, o kitą kartą kažkuo dar vertingesniu – nuosavybės teise saugomomis žiniomis, kurias privalote atskleisti, kad tas intelektas būtų naudingas“. Jis teigė, kad kuo geriau įmonė nori, jog veiktų jos DI, tuo daugiau vidinės patirties, darbo eigų ir sprendimų priėmimo procesų ji turi atskleisti modelių teikėjams.firstpost+2

„Intelekto išmetamųjų dujų“ problema

Nadella įspėjo, kad DI sistemos fiksuoja tai, ką jis vadina „intelekto išmetamosiomis dujomis“ – korekcijas, vertinimus ir naudojimo duomenis, generuojamus kiekvieną kartą, kai darbuotojai sąveikauja su DI įrankiais. Šie duomenys atskleidžia vidines įmonės žinias, kurias teikėjai gali panaudoti kurdami konkuruojančius produktus arba sutelkdami ekonominę vertę infrastruktūros operatorių, o ne žinias generuojančių įmonių rankose.the-decoder+1

Jo siūlomas sprendimas – griežta „pasitikėjimo riba“ kiekvienoje įmonėje, sukurta remiantis penkiais ramsčiais, kuriuos jis vadina penkiais „C“: kontrolė (Control), galimybės (Capability), pasirinkimas (Choice), kaina (Cost) ir junginys (Compound). Ši sistema ragina įmones valdyti savo vertinimus ir grįžtamojo ryšio ciklus, kurti privačias mokymosi aplinkas, išlaikyti orkestravimo sluoksnius nepriklausomus nuo bet kurio vieno modelio teikėjo, optimizuoti išlaidas ir kurti nuolatinio mokymosi sistemas, kurios didina vertę įmonės viduje.aiweekly+3

Distiliavimo dvigubi standartai

Nadella taip pat kritikavo DI laboratorijas, įskaitant „OpenAI“ ir „Anthropic“, už tai, kad jos savo paslaugų teikimo sąlygose uždraudė modelių distiliavimą – mažesnių modelių mokymą naudojant didesnių modelių išvestis. Jis teigė, kad ši pozicija yra veidmainiška, atsižvelgiant į tai, kad tos pačios laboratorijos laisvai rinko duomenis iš atviro interneto savo sistemoms mokyti. Nadella tvirtino, kad jei laboratorijos gali mokytis iš viešų duomenų, įmonės turėtų turėti laisvę tirti ir tobulinti išvestis, už kurias jos moka.techcrunch+2

Murati „Inkling“ modelis įsitraukia į kovą

Nadellos iškeltos problemos sulaukė praktinio atsako trečiadienį, kai „Thinking Machines Lab“, startuolis, kurį įkūrė buvusi „OpenAI“ technologijų vadovė Mira Murati, išleido savo pirmąjį modelį „Inkling“. 975 milijardų parametrų atviro svorio modelis leidžia įmonėms jį atsisiųsti ir pritaikyti naudojant savo duomenis – tai tiesioginis kontrastas uždariems modeliams, kuriuos kritikavo Nadella. „Palantir“ ↘ 0.36% generalinis direktorius Alexas Karpas prieš kelias savaites išreiškė panašius įspėjimus, sakydamas verslo lyderiams, kad „kažkas visiškai negerai“ su tuo, kaip DI laboratorijos tvarko klientų duomenis.wsj+5

„Pardavėjas sužino vis daugiau apie jus, kai naudojate tai, ką įsigijote“, – rašė Nadella, – „o jūs sužinote labai mažai apie tai, ką pardavėjas sužino mainais“.thenextweb