Startup Muratiové vydává AI model s otevřenou vahou kvůli obavám o firemní data

Generální ředitel Microsoftu ↗ 0.52% Satya Nadella představil to, co nazývá „paradoxem reverzních informací“, a tvrdí, že společnosti zavádějící podnikovou AI nevědomky odevzdávají své nejcennější aktivum – proprietární znalosti – pokaždé, když interagují s modelem.

V příspěvku na síti X zveřejněném v pondělí 13. července Nadella napsal, že organizace „v podstatě platí za inteligenci dvakrát, jednou penězi a podruhé něčím ještě cennějším: proprietárními znalostmi, které musíte odhalit, aby byla tato inteligence užitečná“. Čím lépe má podle něj AI společnosti fungovat, tím více interních odborných znalostí, pracovních postupů a rozhodovacích procesů musí poskytovatelům modelů odhalit.firstpost+2

Problém „inteligenčních výfukových plynů“

Nadella varoval, že systémy AI zachycují to, co nazývá „inteligenčními výfukovými plyny“ – opravy, hodnocení a data o používání generovaná pokaždé, když zaměstnanci interagují s nástroji AI. Tato data odhalují interní firemní znalosti, které mohou poskytovatelé využít k vytváření konkurenčních produktů nebo ke koncentraci ekonomické hodnoty u provozovatelů infrastruktury namísto firem, které tyto znalosti generují.the-decoder+1

Jeho navrhovaným řešením je pevná „hranice důvěry“ uvnitř každého podniku, postavená na pěti pilířích, které nazývá pěti C: Control (kontrola), Capability (schopnost), Choice (volba), Cost (náklady) a Compound (složené zhodnocení). Rámec nabádá společnosti, aby vlastnily své vlastní vyhodnocovací a zpětnovazební smyčky, budovaly soukromá výuková prostředí, udržovaly vrstvy orchestrace nezávislé na jakémkoli jediném poskytovateli modelů, optimalizovaly náklady a vytvářely systémy kontinuálního učení, které interně zvyšují hodnotu.aiweekly+3

Dvojí metr u destilace

Nadella se také zaměřil na AI laboratoře včetně OpenAI a Anthropic za to, že ve svých podmínkách služby zakazují destilaci modelů – praxi trénování menších modelů pomocí výstupů z těch větších. Tvrdil, že tento postoj je pokrytecký vzhledem k tomu, že tytéž laboratoře volně stahovaly data z otevřeného internetu, aby vytrénovaly své vlastní systémy. Pokud se laboratoře mohou učit z veřejných dat, argumentoval Nadella, měly by mít podniky svobodu studovat a vylepšovat výstupy, za které platí.techcrunch+2

Model Inkling od Muratiové vstupuje do hry

Obavy, které Nadella vznesl, našly praktickou odezvu ve středu, kdy Thinking Machines Lab, startup založený bývalou technickou ředitelkou OpenAI Mirou Muratiovou, vydal svůj první model s názvem Inkling. Tento model s 975 miliardami parametrů a otevřenou vahou umožňuje společnostem stáhnout si jej a přizpůsobit pomocí vlastních dat – což je přímý kontrast k uzavřeným modelům, které Nadella kritizoval. Generální ředitel Palantiru ↗ 3.68% Alex Karp vyjádřil podobná varování již o několik týdnů dříve, když vedoucím pracovníkům podniků řekl, že „něco je úplně špatně“ se způsobem, jakým AI laboratoře nakládají se zákaznickými daty.wsj+5

„Prodejce se o vás dozvídá stále více, jakmile používáte to, co jste si koupili,“ napsal Nadella, „zatímco vy se dozvíte jen velmi málo o tom, co se prodejce dozvídá na oplátku“.thenextweb