Altman kallar eftir alþjóðlegri gervigreindaröryggisstofnun undir forystu Bandaríkjanna í grein í FT

Sam Altman, forstjóri OpenAI, birti skoðanagrein í Financial Times þann 1. júlí með yfirskriftinni „Svona getum við gert gervigreind örugga fyrir alla“, þar sem hann leggur til alþjóðlegan ramma undir forystu Bandaríkjanna til að koma á alþjóðlegum öryggisstöðlum fyrir gervigreind. Í greininni er því haldið fram að ákvörðun um öryggisstaðla sé „forsenda fyrir víðtækri dreifingu“ háþróaðra gervigreindarkerfa, og hvatt er til þess að kjörnir fulltrúar — ekki gervigreindarrannsóknarstofur — setji reglurnar sem gilda um tæknina.threads+2

Eftir G7-fundinn

Skoðanagreinin kemur tveimur vikum eftir að Altman gekk til liðs við aðra gervigreindarstjóra, Dario Amodei hjá Anthropic og Demis Hassabis hjá Google Alphabet Inc. ↗ 0.78% DeepMind, á G7-leiðtogafundinum í Évian-les-Bains í Frakklandi, þar sem þremenningarnir sátu við hlið þjóðhöfðingja stærstu lýðræðisríkja heims. Á þeim fundi varaði Altman leiðtogana við: „Ekki framselja ábyrgð ykkar til gervigreindarrannsóknarstofa eins og minnar,“ á meðan Hassabis kallaði sérstaklega eftir „staðlastofnun undir forystu Bandaríkjanna sem vinnur helst í nánu samstarfi við alþjóðlega lýðræðissamfélagið“.brookings+2

Hugmyndin endurómar stofnun sem Altman hefur áður líkt við Alþjóðakjarnorkumálastofnunina — samtök sem myndu samræma öryggisprófanir og stjórnunarviðmið meðal lýðræðisríkja á sama tíma og þau gætu hugsanlega tekið þátt í samkeppnisríkjum, þar á meðal Kína. Hvíta húsið hefur samtímis flýtt eigin áætlunum um staðla fyrir gervigreindarlíkön, samkvæmt Financial Times.kucoin+1

Samkeppni og stjórnarhættir mætast

Ákallið um stjórnarhætti kemur á sama tíma og þrjár leiðandi gervigreindarrannsóknarstofur eru læstar í harðnandi samkeppni um getu líkana og upptöku í fyrirtækjum. OpenAI er einnig að undirbúa hlutafjárútboð, sem bætir við fjárhagslegum hvötum til að leita eftir skýrleika í reglugerðum. Anthropic og Google DeepMind hafa stutt við sama alþjóðlega samhæfingarrammann, þótt Amodei hafi haldið því fram að samstarf ætti að ná yfir skipulagðan aðgang að landamæralíkönum og flísaviðskiptum á sama tíma og Kína er beinlínis útilokað frá ákveðnum fyrirkomulögum.stocktwits+2

Spurningin um framfylgd

Stefnumótunarsérfræðingar hafa bent á að það sé aðeins fyrsta skrefið að kalla eftir stöðlum. Greining frá Brookings Institution sem birt var 30. júní hélt því fram að allir rammar sem af þessu hljótist verði að vera framfylgjanlegir — ekki sjálfviljugir — og dró hliðstæður við fjármálaaðgerðahópinn (FATF) og Basel III bankastaðla, sem báðir spruttu af fyrri aðgerðum G7 og höfðu raunverulegar afleiðingar í för með sér ef ekki var farið eftir þeim. Greiningin hvatti stjórnvöld til að útvíkka allt staðlaferlið út fyrir tæknileg áhyggjuefni til að innihalda „hegðunarstaðla“ sem taka á samkeppni, nýsköpun og almannahagsmunum, með þátttöku borgaralegs samfélags samhliða iðnaðinum.brookings