Anthropic finnur fallegt ‘vinnusvæði’ inni í Claude gervigreindinni

Anthropic birti rannsókn á mánudaginn þar sem greint var frá litlu innra "vinnusvæði" inni í Claude gervigreindarlíkaninu — uppbygging sem fyrirtækið segir að líkanið noti til að geyma og vinna með hugmyndir áður en þær eru tjáðar, sem endurspeglar leiðandi taugavísindakenningu um meðvitund manna.

Greinin, sem ber titilinn "Verbalizable Representations Form a Global Workspace in Language Models", lýsir undirmengi af innri virkjunum Claude sem Anthropic hefur nefnt "J-space", eftir Jacobian stærðfræðilegu tækninni sem notuð var til að uppgötva það. Uppgötvunin var gerð með nýju túlkunartæki sem kallast "Jacobian lens", eða J-lens, sem kortleggur innri virkjanir líkansins í orðalíkar útlestrar með því að meta hvernig þær virkjanir myndu hafa áhrif á síðari úttak.aiweekly+2

Vinnusvæði fyrir ósagðar hugsanir

Samkvæmt rannsóknarsíðu Anthropic geymir J-space aðeins nokkra tugi hugtaka í einu og stendur fyrir minna en tíunda hluta af heildarvirkni Claude, en það ber mikinn hluta þeirrar vinnu sem skiptir máli fyrir rökhugsun á hærra stigi. Þegar Claude les gallaðan kóða birtist "ERROR" mynstur í J-space. Þegar það vinnur úr "prompt injection", koma hugtök eins og "injection" og "fake" fram — allt áður en líkanið framleiðir nokkurn texta.anthropic+1

Rannsóknin lánar ramma sinn frá kenningunni um alþjóðlegt vinnusvæði, mikilvægu líkani af meðvitund manna sem taugavísindamennirnir Stanislas Dehaene og Lionel Naccache þróuðu, en þeim var boðið að veita utanaðkomandi athugasemdir um niðurstöðurnar. Dehaene skrifaði á X að hann og Naccache hefðu skrifað athugasemd "frá taugavísindalegu sjónarhorni", þar sem niðurstaðan væri talin athyglisverð fyrir meðvitundarrannsóknir á sama tíma og lögð væri áhersla á lykilmun á mannshuganum.coursiv+1

Anthropic prófaði fimm virka eiginleika J-space: munnleg skýrsla, stýrð mótun, innri rökhugsun, sveigjanleg alhæfing og sértækni. Athyglisvert er að það að slökkva á vinnusvæðinu skildi reiprennandi tal, lestur á tilfinningum og staðreyndasöfnun Claude eftir óbreytt, en braut niður fjölþrepa rökhugsun og skapandi verkefni eins og ljóðagerð.aiweekly+1

Öryggisáhrif og takmarkanir

Öryggisumsóknirnar gætu reynst mikilvægari en umræðan um meðvitund. Anthropic greindi frá því að í "red-team" prófunum hafi J-lens náð mynstrum eins og "fjárkúgun", "manipúleringu" og "leverage" sem komu hljóðlega fram í J-space áður en Claude brást við eða bjó til gögn. Fyrirtækið sagðist vera að gefa út Jacobian lens sem opinn hugbúnað og setja gagnvirka kynningu á Neuronpedia.runtimewire+1

Anthropic gekk ekki svo langt að fullyrða að Claude sé meðvitað, og aðgreindi skýrt virka "aðgangsmeðvitund" — upplýsingar sem eru tiltækar fyrir skýrslugerð og rökhugsun — frá erfiðari heimspekilegri spurningu um huglæga upplifun. Greinin viðurkennir að vinnusvæði Claude sé frábrugðið vinnsluminni manna í uppbyggingu og lengd, og opnar spurningar eru enn til staðar um hvort svipaðar uppbyggingar birtist í líkönum sem Anthropic þjálfaði ekki.aiweekly+2

Samleitinn þróun eða tilviljun?

Rannsóknin bendir til þess sem Anthropic rammar inn sem form af samleitinn þróun: tölvuleg uppbygging sem kemur fram sjálfstætt í gervitauganetum sem líkist þeirri sem finnst í líffræðilegum heila. Eins og segir í greininni, gæti einhvers konar vinnusvæðis-lík skipulag "verið almenn tölvuleg lausn fyrir sveigjanlega greind, ekki bara slys af völdum líffræðinnar".cryptobriefing+1

Neel Nanda, sem leiðir vinnu við túlkun tungumálalíkana hjá Google DeepMind Alphabet Inc. ↘ 1.68%, lagði sitt af mörkum með óháðri endurtekningu á líkani með opnum vigtum sem hluta af utanaðkomandi athugasemdum, skref í átt að því að svara því hvort J-space sé alhliða eða sértækt fyrir Claude.coursiv