Leiðtogar gervigreindar ósammála um hægari þróun fyrir fund Öryggisráðs Sameinuðu þjóðanna

Sam Altman, forstjóri OpenAI, mun flytja erindi fyrir Öryggisráði Sameinuðu þjóðanna á miðvikudag á meðan allsherjarþingið stendur yfir í New York, en vaxandi gjá á milli leiðtoga í gervigreindargeiranum um hraða þróunarinnar er nú komin á alþjóðasviðið.reuters+1

Fundurinn, sem Frakkland boðaði til undir formennsku sinni og stýrt er af Jean-Noël Barrot utanríkisráðherra, kemur í kjölfar þess að Dario Amodei, forstjóri Anthropic, birti ritgerðina "We Must Pace the Frontier" sem hefur breytt umræðunni um öryggi gervigreindar. Talsmaður OpenAI sagði við Reuters að ræða Altmans muni beinast að alþjóðlegri samhæfingu og sameiginlegum öryggisstöðlum.finance.yahoo+3

Þriggja þrepa áætlun um að hægja á gervigreind

Í ritgerð Amodeis frá 12. september er því haldið fram að framfarir í gervigreind hafi verið "verulega hraðari" síðan sumarið 2026, drifnar áfram af aukinni getu gervigreindar til að smíða næstu kynslóð gervigreindarkerfa. Hann lagði til þriggja þrepa áætlun: að koma fyrir óháðum matsaðilum innan hvers rannsóknarstofu, samhæfa öryggisstaðla meðal gervigreindarfyrirtækja í lýðræðisríkjum og að lokum koma á alþjóðlegri samhæfingu sem nær til Kína.bnnbloomberg+2

Altman studdi tillöguna á X og skrifaði: "Ég er sammála Darío um að við þurfum að hægja á þróuninni," og skuldbatt OpenAI til að veita óháðum matsaðilum aðgang sem jafngildir starfsmannaaðgangi og birta skýrslur um óvænta hegðun gervigreindar. Elon Musk studdi einnig Amodei og skrifaði einfaldlega: "Dario hefur rétt fyrir sér".reuters+1

En samstaðan er langt frá því að vera almenn. Mark Zuckerberg, forstjóri Meta ↗ 1.02%, hélt því fram að samkeppni og ábyrgð veiti fyrirtækjum nægjanlegan hvata til að bregðast við öryggismálum á eigin spýtur. Jensen Huang, forstjóri Nvidia ↘ 1.47%, hafnaði þörfinni á nýjum reglugerðum og sagði við CBS News að það væru "0% líkur" á að árið 2030 myndi boða heimsendi og hvatti iðnaðinn til að beita gildandi ábyrgðarlögum.bnnbloomberg

Alþjóðlegur þrýstingur eykst

António Guterres, aðalritari SÞ, hefur skilgreint gervigreind sem eina af "þremur tilvistarógnum" sem heimurinn stendur frammi fyrir, ásamt loftslagsvandanum og vaxandi ójöfnuði. "Heimurinn hefur ekki efni á kapphlaupi til botns varðandi öryggi gervigreindar," sagði hann í síðustu viku og kallaði alþjóðlegt samstarf "ómissandi" og varaði við því að sjálfviljug hlé sem takmarkast við örfá lönd myndu ekki virka.news.un+2

Karl Bretakonungur tók á móti stjórnendum frá Nvidia, Google DeepMind Alphabet Inc. ↘ 3.58%, OpenAI og Anthropic í Dumfries House í Skotlandi í síðustu viku og varaði við "tilvistarógnum" ef gervigreind lenti í röngum höndum. Framkvæmdastjórn Evrópusambandsins studdi kröfur um hlé og sagði Ursula von der Leyen forseti að hún myndi bjóða rannsóknarstofum til að ræða áhættu.reuters+2

Ekki eru allar ríkisstjórnir jafn áhyggjufullar. Donald Trump forseti skrifaði á Truth Social að gervigreind þyrfti aðeins "STERKAN OG KLÁRAN (Hár greindarvísitala!) FORSETA" og varaði við því að efasemdir um þróun gervigreindar myndu gagnast Kína. Ríkisfjölmiðillinn Global Times í Kína sakaði Amodei um að reyna að "hefta gervigreindarþróun Kína með tæknilegum hindrunum og einokun reglugerða".bnnbloomberg

Fundur Öryggisráðsins á miðvikudag, sem er annar fundur ráðsins sem helgaður er áhættu gervigreindar síðan 2023, mun leiða í ljós hvort vaxandi kór varúðar geti skilað sér í einhverju öðru en orðræðu.tbsnews+1