Forstjóri OpenAI, Sam Altman, mun upplýsa öryggisráð SÞ um áhættu gervigreindar

OpenAI birti á mánudag tillögu þar sem hvatt er til þess að Bandaríkin leiði alþjóðlegt átak við að þróa öryggis- og tæknistaðla fyrir háþróaða gervigreind. Fyrirtækið varar við því að aðgerðaleysi gæti leitt til þess að landið horfi upp á „brotkennt, ójafnt og átakafullt kerfi festa rætur í kringum sig.“thenextweb+1

Tillagan, sem beinist að fremstu gerðum gervigreindar og endurkvæmri sjálfbót — ferli þar sem gervigreindarkerfi taka að sér vaxandi ábyrgð á þróun eftirmanna sinna — kemur fram á viku mikillar diplómatíu varðandi gervigreind hjá Sameinuðu þjóðunum og í samskiptum Washington og Peking.

Staðlar, ekki leyfi

Áætlun OpenAI kallar eftir sameiginlegum ramma til að mæla getu gervigreindar, meta hversu miklar sjálfstæðar rannsóknir eiga sér stað innan fyrirtækja og koma á sameiginlegum samskiptareglum um atvik með sameiginlegum alvarleikastigum. Fyrirtækið lagði til að þessu yrði stýrt í gegnum miðstöð viðskiptaráðuneytis Bandaríkjanna fyrir gervigreindarstaðla og nýsköpun, ásamt vaxandi neti innlendra gervigreindaröryggisstofnana í löndum eins og Bretlandi, Japan, Frakklandi og Kanada.dig+1

Fyrirtækið lagði áherslu á að staðlarnir „væru ekki leyfi, skyldubundin yfirferð fyrir útgáfu eða kröfur um samþykki fyrir gervigreindarlíkönum,“ og að einstök stjórnvöld myndu ákveða hvernig þau yrðu innleidd í landslög. OpenAI kallaði einnig eftir öruggum samskiptaleiðum milli stjórnvalda og rekstraraðila mikilvægra innviða til að deila upplýsingum um ógnir, og sagði að viðræður milli Bandaríkjanna og Kína „væru jákvætt skref.“thenextweb+2

„Fullkomlega sjálfstæð endurkvæm sjálfbót er ekki að gerast í dag og við ættum ekki að stunda hana nema hún sé örugg,“ skrifaði fyrirtækið.thenextweb

Annasöm vika í gervigreindardiplómatíu

Tillagan kom fram á tímabili mikillar virkni. Scott Bessent fjármálaráðherra sagði um helgina að Bandaríkin og Kína hefðu samþykkt að hefja tvíhliða viðræður um gervigreind og Washington lagði til kerfi fyrir tilkynningar um gervigreindaratvik til Peking. Á mánudag skrifaði Donald Trump forseti á Truth Social að hann væri hlynntur vægu eftirliti með gervigreind og bætti við: „Hver sem vinnur gervigreindina, VINNUR!“ Bessent sagði jafnframt að stjórnvöld myndu ekki veita rannsóknarstofum gervigreindar vernd gegn skaðabótaábyrgð.foxbaltimore+1

Á þriðjudag, á allsherjarþingi SÞ, varaði António Guterres aðalritari við hættum gervigreindar og kallaði eftir alþjóðlegri samvinnu. Trump, sem talaði skömmu síðar, vísaði hugmyndinni á bug sem „alþjóðlegu plotti“ og sagði að Bandaríkin væru að endurnefna gervigreind „ofurgreind,“ samkvæmt Bloomberg.thenextweb

Altman á leið í öryggisráðið

Sam Altman mun upplýsa öryggisráð SÞ á miðvikudag síðdegis ásamt Dario Amodei, forstjóra Anthropic, Yoshua Bengio gervigreindarrannsakanda og Clément Delangue, forstjóra Hugging Face. Þetta er fyrsti fundur ráðsins sem beinist að öryggisáhættu sífellt öflugri gervigreindar. Fulltrúar OpenAI sögðu að Altman myndi staðsetja sig sem „pragmatískan miðjumann“ sem stuðlar að sameiginlegum öryggisstöðlum án þess að safna valdi hjá örfáum fyrirtækjum.thenextweb

Seinna í vikunni mun Altman sækja ríkisveislu í Hvíta húsinu fyrir Xi Jinping, forseta Kína, sem undirstrikar hversu miðlæg gervigreind er orðin í samskiptum Bandaríkjanna og Kína.foxbaltimore+1