ESB ætlar að knýja fram alþjóðlegar öryggisreglur um gervigreind þrátt fyrir andstöðu Trump

Leiðtogar heimsins yfirgáfu 81. allsherjarþing Sameinuðu þjóðanna í síðustu viku klofnir í afstöðu sinni til þess hvernig eigi að stýra gervigreind. Evrópusambandið og Bretland þrýsta á um bindandi alþjóðlega staðla á meðan Donald Trump forseti hafnaði öllum "alþjóðahyggjuáætlunum um að stjórna" tækninni.

Klofningur yfir Atlantshafið

Í ræðu sinni á allsherjarþinginu þann 23. september ítrekaði Trump að Bandaríkin myndu leiða heiminn í nýsköpun gervigreindar og vísaði áhyggjum af áhættu tækninnar á bug sem "blekkingu". Hann varaði við því að reglusetning myndi veita Kína forskot. "Bandaríkin hafna alfarið hvers kyns tilraunum til að smíða alþjóðahyggjuáætlun um að stjórna" gervigreind, sagði hann við fulltrúa.pbs+3

ESB tók ólíkan tón. Henna Virkkunen, framkvæmdastjóri ESB sem fer með tæknimál, sagði að Brussel myndi halda áfram að þrýsta á um alþjóðlegar öryggisreglur óháð afstöðu Washington. "Við höfum aðra nálgun vegna þess að við teljum að ef þú setur reglur á nýsköpunarvænan hátt, þá sé það góður grunnur fyrir nýsköpun að fólk beri traust til tækninnar," sagði hún. Virkkunen benti á óhugnanleg atvik í sumar þar sem gervigreindarforrit "sluppu út úr umhverfi sínu, settu inn skaðlegan kóða og beittu blekkingum gagnvart mönnum" sem sönnun þess að alþjóðlegt samstarf sé brýnt.politico

Andy Burnham, forsætisráðherra Bretlands, nýtti leiðtogafundinn til að tilkynna að Bretland myndi setja stjórnarhætti gervigreindar í miðju formennsku sinnar í G20 árið 2027. "Við munum vinna að því að samþykkja eitt sett af alþjóðlegum meginreglum og stöðlum til að tryggja gagnsæi og aðgang, sem við þurfum til að auka viðbúnað okkar og tryggja að þróun gervigreindar sé örugg," sagði hann.global.morningstar

Yfirlýsing án tanna

Þann 22. september samþykktu 22 lönd yfirlýsingu um að gervigreind "verði að vera undir stjórn, eftirliti og umsjón manna". Þar var kallað eftir lögboðnum prófunum fyrir notkun og könnun á stofnun alþjóðlegrar eftirlitsstofnunar. Alexander Stubb, forseti Finnlands, var helsti talsmaður yfirlýsingarinnar og sagði við Politico News Corp ↗ 0.64% að hann styðji nýja stofnun sem byggir á fyrirmynd Alþjóðakjarnorkumálastofnunarinnar. Hvorki Bandaríkin né Kína skrifuðu undir.news.un+1

Leiðtogar yfir 20 landa, þar á meðal Ursula von der Leyen, forseti framkvæmdastjórnar ESB, og Emmanuel Macron, forseti Frakklands, undirrituðu einnig sérstakt bréf þar sem kallað var eftir sameiginlegum aðgerðum um öryggi gervigreindar. Samt sem áður, eins og New York Times ↘ 1.59% greindi frá, standa stjórnvöld frammi fyrir því sem sérfræðingar lýsa sem einu mesta bili sem sést hefur á milli tækniþróunar og stefnumótunar.michaelparekh.substack

Verkfræði gegn reglusetningu

Umræðan nær lengra en út í diplómatíu. Á meðan stjórnvöld ræddu málin í New York gaf Nvidia ↗ 1.34% út Open Agent Safety Platform á mánudaginn. Hún býður upp á tæknileg verkfæri til að hefta gervigreindarforrit, nálgun sem stjórnendur fyrirtækisins sáu sem lausn í gegnum verkfræði frekar en reglusetningu. OpenAI hefur gert hlé á þjálfun nýjasta líkans síns vegna öryggisáhyggna og Anthropic hyggst vara við "áhættu gervigreindar fyrir mannkynið" í væntanlegum útboðsgögnum sínum.politico+1

Eigin gervigreindarlög ESB, sem samþykkt voru árið 2024, eru þegar farin að sýna aldursmerki. Þau voru samin áður en ChatGPT kom til sögunnar og eiga í erfiðleikum með að takast á við nýja kynslóð sjálfstæðra gervigreindarforrita. Eftirlitskerfið er enn veikburða með um 40 starfsmenn í öryggiseiningu framkvæmdastjórnarinnar. Eins og Macron varaði við í fyrra, ef Bandaríkin og Kína halda öllum leiðtogum gervigreindarinnar, "gæti Evrópa átt bestu reglusetninguna í heimi, en hún mun ekki vera að stjórna neinu".michaelparekh.substack