OpenAI og Anthropic kalla bæði eftir alþjóðlegu eftirliti með gervigreind

Forstjóri OpenAI, Sam Altman, og yfirvísindamaðurinn Jakub Pachocki birtu bloggfærslu á mánudaginn þar sem kallað var eftir stofnun alþjóðlegrar stofnunar til að hafa eftirlit með þróun fremstu gervigreindar, þar með talið getu til að hægja á framförum "þegar þörf krefur" svo að öryggi og samfélagsleg seigla geti haldið í við þróunina. Ákallið var hluti af víðtækari framtíðarsýn sem tilkynnti það sem Altman lýsti sem "þriðju lotu" OpenAI, birt sama dag og fyrirtækið staðfesti að það hefði lagt fram trúnaðarupplýsingar um hlutafjárútboð hjá SEC.businessinsider+1

Sjaldgæf samstaða keppinauta

Tímasetningin er athyglisverð þar sem hún fylgir svipaðri yfirlýsingu frá keppinautnum Anthropic, sem þann 4. júní birti skýrslu þar sem gervigreindarrannsóknarstofur voru hvattar til að þróa samræmdan og sannreyndan ramma til að gera hlé á þróun ef háþróuð kerfi byrja að bæta sig hraðar en samfélagið getur stjórnað. "Við teljum að það væri gott fyrir heiminn að hafa möguleika á að hægja á eða gera tímabundið hlé á þróun fremstu gervigreindar til að leyfa samfélagslegum mannvirkjum og rannsóknum á samræmingu að halda í við," skrifaði Anthropic.finance.yahoo+1

Anthropic varaði við því að "endurkvæm sjálfsbót" — þar sem gervigreindarkerfi hanna, byggja og þjálfa eftirmenn sína sjálfstætt — "gæti komið fyrr en mörg fyrirtæki eru tilbúin fyrir", og að án fullnægjandi öryggisráðstafana gæti það flækt eftirlit manna með þróun gervigreindar. Fyrirtækið sagði að hvers kyns marktækt hlé myndi krefjast samkomulags frá mörgum leiðandi rannsóknarstofum milli landa, sérstaklega í Bandaríkjunum og Kína, ásamt sannprófunarreglum.reuters+1

Frá samkeppni til samhæfingar

Samleitnin milli fyrirtækjanna tveggja er sláandi í ljósi mikillar viðskiptasamkeppni þeirra. Bæði eru að undirbúa hlutafjárútboð, þar sem Anthropic lagði fram sitt eigið S-1 skjal í byrjun júní og OpenAI er metið á meira en 850 milljarða dollara. Samt styðja bæði nú opinberlega þá hugmynd að utanaðkomandi aðili ætti að hafa vald til að hefta þróun öflugustu gervigreindarkerfanna.vktr+1

Ákall OpenAI um alþjóðlega stjórnunarstofnun er ekki nýtt — Altman lagði fyrst til "IAEA fyrir ofurgreind" árið 2023 — en nýjasta yfirlýsingin er ákveðnari í framsetningu sinni. Samkvæmt The Decoder kölluðu Altman og Pachocki eftir "alþjóðlegri stofnun sem gæti hægt á þróun fremstu tækni ef þörf krefur". Business Insider greindi frá því að þeir lögðu áherslu á "nauðsyn þess að eiga samstarf á landsvísu og alþjóðavettvangi, og ítrekuðu tillögu sína um alþjóðlega stofnun sem helgar sig því að draga úr áhættu tengdri gervigreind, með getu til að hægja á þróun háþróaðra líkana þegar nauðsyn krefur".nytimes+2

Enn á eftir að koma í ljós hvort tillögurnar séu meira en bara orðagjálfur. Hvorki fyrirtækið hefur skuldbundið sig til einhliða takmarkana á eigin þróun og Anthropic viðurkenndi að ef aðeins eitt fyrirtæki gerði hlé, myndu keppinautar skjótast fram úr. Aðalspurningin nú er hvort stjórnvöld muni taka boðinu — og hvort rannsóknarstofurnar muni samþykkja raunverulegt utanaðkomandi vald yfir vinnu sinni.finance.yahoo