Altman og Amodei kynna gervigreind fyrir öryggisráði SÞ á miðvikudag

Dario Amodei, forstjóri Anthropic, og Sam Altman, forstjóri OpenAI, munu kynna stöðu gervigreindar fyrir öryggisráði Sameinuðu þjóðanna á miðvikudag á fundi sem helgaður er framtíð tækninnar, en hún er fyrirferðarmikil í umræðum á árlegu allsherjarþingi SÞ í New York.

Mikilvægur fundur öryggisráðsins

Fundurinn, sem Frakkar skipuleggja en þeir gegna formennsku í ráðinu, mun einnig fá erindi frá Yoshua Bengio, meðformanni sérfræðinganefndar SÞ um gervigreind, og Clément Delangue, forstjóra Hugging Face, samkvæmt Bloomberg. Gert er ráð fyrir að Amodei taki þátt í gegnum fjarfundabúnað. Talsmaður OpenAI sagði við Reuters að Altman muni leggja áherslu á "skrefin sem OpenAI tekur til að tryggja að gervigreind sé örugg og gagnist fólki um allan heim, ásamt þörfinni fyrir alþjóðlega samhæfingu og sameiginlega öryggisstaðla".thenextweb+3

Þetta er í annað sinn sem öryggisráðið tekur gervigreind til umfjöllunar síðan málið var fyrst rætt í júlí 2023, þegar Kína varaði við því að tæknin mætti ekki verða eins og "ótaminn hestur". Samkvæmt minnisblaði frá Frökkum mun fundurinn fjalla um misnotkun á gervigreind og hættuna á að missa stjórn á háþróuðum líkönum.ctvnews+1

Samvinna, samkeppni og samkeppnismál

Fundurinn fer fram á sama tíma og vaxandi umræða á sér stað um hvernig keppinautar í gervigreindargeiranum eigi að vinna saman að öryggismálum. The Information greindi frá því 21. september að OpenAI og Anthropic hefðu samið um lagalega bindandi samkomulag fyrr á þessu ári um að meta líkön hvers annars með tilliti til veikleika. Samkvæmt drögum að samkomulaginu myndu fyrirtækin fá aðgang að API-viðmótum hvors annars án þess að geyma gögn.news.sbs+1

Þessi samvinna hefur vakið athygli lögfræðinga. Þann 12. september birti Amodei grein þar sem hann hvatti gervigreindarfyrirtæki til að hægja á þróuninni og kallaði eftir óháðum matsaðilum innan rannsóknarstofa. Eftir að Altman og Elon Musk studdu tillöguna opinberlega, lögðu áskrifendur fram hópmálsókn vegna brota á samkeppnislögum þann 19. september við héraðsdóm í Norður-Kaliforníu, þar sem því er haldið fram að Anthropic, OpenAI, SpaceXAI og Google hjá Alphabet ↘ 3.58% hafi brotið gegn Sherman-samkeppnislögunum með því að samræma aðgerðir til að takmarka framfarir í gervigreind.apnews+2

Trump endurnefnir gervigreind á allsherjarþinginu

Nokkrum klukkustundum fyrir fund öryggisráðsins notaði Trump forseti ræðu sína á allsherjarþinginu á þriðjudag til að lýsa því yfir að Bandaríkin myndu skipta út hugtakinu "gervigreind" fyrir "ofurgreind" í öllum opinberum skjölum. "Notkun orðsins gervi lætur greind hljóma eins og hún sé fölsuð," sagði Trump við leiðtoga heimsins. "Hún er ekki fölsuð. Hún er í raun ótrúleg". Trump hafnaði einnig alþjóðlegum tilraunum til að setja reglur um tæknina og sagði að hann myndi ekki "kæfa vöxt einhvers sem verður stærra en iðnbyltingin".breitbart+1

Þessir tveir atburðir, endurnefning Trumps og fundur öryggisráðsins, undirstrika vaxandi gjá á milli afstöðu Washington-stjórnarinnar gegn reglugerðum og kröfu gervigreindarstjóra og bandamanna þeirra um samræmdar öryggisreglur.