Nýsköpunarfyrirtæki Murati gefur út opið gervigreindarlíkan vegna áhyggna af fyrirtækjagögnum

Satya Nadella, forstjóri Microsoft ↗ 0.03%, hefur kynnt það sem hann kallar „öfuga upplýsingaþversögn“ (Reverse Information Paradox) og heldur því fram að fyrirtæki sem tileinka sér gervigreind séu óafvitandi að fórna verðmætustu eign sinni — einkaleyfisbundinni þekkingu — í hvert sinn sem þau eiga samskipti við líkan.

Í færslu á X sem birt var mánudaginn 13. júlí skrifaði Nadella að stofnanir „borgi í raun fyrir greind tvisvar, einu sinni með peningum og aftur með einhverju sem er enn verðmætara: þeirri einkaleyfisbundnu þekkingu sem þú verður að opinbera til að gera þá greind gagnlega“. Því betur sem fyrirtæki vilji að gervigreindin virki, því meiri innri sérfræðiþekkingu, vinnuflæði og ákvarðanatökuferla verði það að afhjúpa fyrir veitendum líkananna.firstpost+2

Vandamálið með „greindarútblástur“

Nadella varaði við því að gervigreindarkerfi nái utan um það sem hann kallar „greindarútblástur“ (intelligence exhaust) — leiðréttingar, einkunnir og notkunargögn sem verða til í hvert sinn sem starfsmenn eiga samskipti við gervigreindartól. Þessi gögn leiða í ljós innri þekkingu fyrirtækja sem veitendur geta notað til að byggja upp samkeppnisvörur eða safna efnahagslegum verðmætum hjá innviðastjórnendum frekar en hjá þeim fyrirtækjum sem skapa þekkinguna.the-decoder+1

Lausnin sem hann leggur til eru ströng „traustmörk“ innan hvers fyrirtækis, byggð á fimm stoðum sem hann kallar fimm C-in: Control (stjórn), Capability (geta), Choice (val), Cost (kostnaður) og Compound (samsettur ávinningur). Ramminn hvetur fyrirtæki til að eiga sitt eigið mat og endurgjöf, byggja upp einkarekið námsumhverfi, halda skipulagslögum óháðum einum veitanda, hagræða kostnaði og skapa stöðugt námskerfi sem eykur verðmæti innan fyrirtækisins.aiweekly+3

Tvískinningur varðandi eimingu

Nadella gagnrýndi einnig gervigreindarstofur, þar á meðal OpenAI og Anthropic, fyrir að banna eimingu líkana (model distillation) — þá iðkun að þjálfa minni líkön með úttaki frá stærri líkönum — í þjónustuskilmálum sínum. Hann hélt því fram að þessi afstaða væri hræsnisfull í ljósi þess að sömu stofur sópuðu ókeypis gögnum af opna netinu til að þjálfa sín eigin kerfi. Ef stofur geta lært af opinberum gögnum, hélt Nadella fram, ættu fyrirtæki að vera frjáls til að rannsaka og bæta úttakið sem þau borga fyrir.techcrunch+2

Inkling-líkan Murati kemur til sögunnar

Áhyggjur Nadella fengu hagnýt viðbrögð á miðvikudaginn þegar Thinking Machines Lab, nýsköpunarfyrirtækið sem fyrrverandi tæknistjóri OpenAI, Mira Murati, stofnaði, gaf út sitt fyrsta líkan sem heitir Inkling. Líkanið, sem er með 975 milljarða færibreyta og opið vægi, gerir fyrirtækjum kleift að hlaða því niður og sérsníða það með eigin gögnum — bein andstæða við lokuðu líkönin sem Nadella gagnrýndi. Alex Karp, forstjóri Palantir ↘ 0.36%, hafði látið svipaðar viðvaranir í ljós vikum áður og sagt leiðtogum fyrirtækja að „eitthvað hafi farið algjörlega úrskeiðis“ með því hvernig gervigreindarstofur meðhöndla gögn viðskiptavina.wsj+5

„Seljandinn lærir meira og meira um þig eftir því sem þú notar það sem þú keyptir,“ skrifaði Nadella, „á meðan þú lærir mjög lítið um hvað seljandinn er að læra í staðinn“.thenextweb