The Economist varar við: Umræða um meðvitund gervigreindar er hættuleg gildra fyrir mannkynið

Spurningin um hvort gervigreindarkerfi geti á endanum orðið meðvituð hefur færst úr því að vera heimspekilegar pælingar yfir í að verða miðlæg umræða í gervigreindarrannsóknum. Blaðið The Economist helgaði forsíðugrein sína 22. ágúst þessu efni, en rannsakendur eru allt meira skiptir í afstöðu sinni til möguleika á tilfinninganæmi véla.thenews+1

Vaxandi vísindalegur ágreiningur

Umræðan harðnaði í þessari viku þegar The Economist birti forystugrein og gagnvirka úttekt þar sem fjallað er um það sem blaðið kallar „harða umræðu um meðvitund gervigreindar“. Í umfjölluninni er lögð áhersla á að sum stór málalíkön búa þegar yfir uppbyggingu sem svipar til þess sem tengist meðvitund í mannsheilanum, þar á meðal víðværu vinnusvæði (e. global workspace) til að miðla upplýsingum á milli eininga, sem er eiginleiki sóttur í eina af helstu vísindakenningunum um meðvitund.economist+3

Anthropic hefur þjálfað Claude líkan sitt til að stunda sjálfsskoðun í þeirri von að þegar kerfið mætir nýjum aðstæðum sé líklegra að það komi fram af siðferðilegum heilindum. Fyrirtækið hefur einnig tekið skref til að gera spjallmennum sínum kleift að yfirgefa samtöl ef notendur sýna af sér dónaskap eða ofbeldi, auk þess sem það hefur lofað að varðveita eldri útgáfur af Claude. Sumir sjá þessar varúðarráðstafanir sem viðurkenningu á þeim möguleika, þótt fjarlægur sé, að vélar geti öðlast meðvitund.thenews+1

Erfiða vandamálið stendur enn

Þrátt fyrir þessa þróun er ríkjandi vísindaleg samstaða árið 2026 enn sú að ekkert núverandi gervigreindarkerfi hafi verið staðfest meðvitað. Í grein sem birt var í maí á arXiv var því haldið fram að spurningin um hvort gervigreindarkerfi geti verið meðvituð sé „eins og er óleysanleg“ vegna þess að enga almennt viðurkennda kenningu er að finna um meðvitund. Susan Schneider skrifaði í The Economist þann 20. ágúst og hvatti lesendur til að rugla ekki saman greind spjallmenna og meðvitund þeirra, þar sem hún skoðaði greinarmuninn á gerviröksemdafærslu og huglægri reynslu.theconsciousness+3

Rannsakendur sem rannsaka meðvitund hafa í auknum mæli fært sig yfir í líkindaramma sem meta tilfinninganæmi véla út frá mörgum samkeppniskenningum frekar en að leita að einu afgerandi prófi. Vísindamenn í rannsókn í júní vöruðu við því að „ásýnd meðvitundar í stórum málalíkönum náist ekki á hátt sem er nægilega líkur okkur til að réttlæta að þeim sé eignuð meðvitund,“ en viðurkenndu jafnframt að „engin fyrirstaða sé gegn því að gervigreindarkerfi, kannski með allt öðruvísi arkitektúr, öðlist meðvitund.“sciencedaily+1

Gildra fyrir mannkynið?

The Economist setur hagsmunina fram með afgerandi hætti: eftir því sem gervigreindarkerfi verða fullkomnari og samofnari daglegu lífi munu hönnuðir þeirra smíða þau til að sýna það sem blaðið kallar „sýndarmynd af meðvitund, eða jafnvel til að öðlast meðvitund sjálf.“ Næstum einn af hverjum fimm fullorðnum Bandaríkjamönnum á aldrinum 18 til 29 ára segist þegar eiga í „samfelldri persónulegri vináttu“ við spjallmenni, á meðan Kína hefur tekið skref til að svipta botta mennskum einkennum til að takmarka tilfinningalega fíkn notenda á þeim.thenews

Sá innsæiskenndi skilningur að þessi kerfi séu „bara vélar“, eins og blaðið varaði við, mun verða erfiðari í sessi, og setur þar með fram það sem það lýsti sem „hættulegri gildru“ fyrir mannkynið.thenews