Aðalritari SÞ kallar eftir banni á „morðingjavélmennum“ á fyrsta alþjóðlega gervigreindarþinginu

António Guterres, aðalritari SÞ, varaði við því á mánudag að gervigreind væri að „þróast á ógnarhraða“ og kallaði eftir víðtækum alþjóðlegum stjórnarháttum — þar á meðal banni við banvænum sjálfstýrðum vopnum og nýrri vernd fyrir börn — þegar 193 þjóðir komu saman í Genf á fyrsta alþjóðlega gervigreindarþinginu.un+1

Tækni sem er „dreift hraðar en nokkur getur fylgst með“

„Tilraun er gerð á samfélögum okkar — án áætlunar og án samþykkis,“ sagði Guterres við fulltrúa í Palexpo ráðstefnumiðstöðinni þegar hann opnaði tveggja daga málþingið sem allsherjarþing SÞ stofnaði til í ágúst 2025. Upphafsþingið, sem Egriselda López, sendiherra El Salvador, og Rein Tammsaar, sendiherra Eistlands, stýra, fer fram samhliða leiðtogafundi um upplýsingasamfélagið og leiðtogafundi ITU um gervigreind í þágu góðs málefnis síðar í vikunni.itu+3

Guterres byggði ræðu sína á bráðabirgðaskýrslu frá óháðri alþjóðlegri vísindanefnd um gervigreind, hópi 40 sérfræðinga sem sendi frá sér „þrjár viðvaranir“ um hraða tækninnar, samþjöppun valds hjá fáeinum fyrirtækjum og löndum, og getu gervigreindar til að grafa undan sannleikanum. „Lyg sem vél býr til getur nú sannfært fólk jafn áhrifaríkt og sannleikurinn — og hægt er að vísa á bug sönnunargögnum sem fölsuðum,“ sagði hann.un

Öryggisloforð fyrir börn og „morðingjavélmenni“

Meðal tillagna sinna kynnti Guterres öryggisloforð fyrir börn í gervigreind sem krefst þess að fyrirtæki framkvæmi öryggisprófanir fyrir börn fyrir notkun, framfylgi núllumburðarlyndi gagnvart kynferðislegu efni sem gervigreind býr til og tryggi að kerfi tengi börn í neyð við mannlegan stuðning. „Ekkert barn ætti að vera tilraunadýr fyrir óstýrða gervigreind,“ sagði hann.arabnews+1

Guterres kallaði einnig eftir alþjóðlegu lagabanni á því sem hann kallaði „morðingjavélmenni“ — banvæn sjálfstýrð vopnakerfi sem velja og ráðast á skotmörk án mannlegrar stjórnunar. „Það er siðferðilega viðbjóðslegt. Það er pólitískt óviðunandi. Og það verður að banna það með alþjóðalögum,“ sagði hann og hvatti ríki til að „bíða ekki eftir voðaverkum til að bregðast við“.un+1

Að setja skilmála fyrir framtíðina

Aðalritarinn dró upp fjóra forgangsþætti: sameiginleg öryggisviðmið fyrir fremstu gervigreindarkerfi, skýr mörk varðandi mannréttindi, aukna getu þróunarríkja á sviði gervigreindar og gagnsæi í umhverfismálum hjá helstu gervigreindarfyrirtækjum. Hann tilkynnti einnig um áætlanir um að leggja fram tillögu um alþjóðlegan sjóð fyrir gervigreind fyrir allsherjarþingið, sem miðar að því að byggja upp tölvuafl og færni um allan heim, og greindi frá því að yfir 20 aðildarríki hafi þegar tilnefnt miðstöðvar í nýtt alþjóðlegt net fyrir getuuppbyggingu gervigreindar sem SÞ styðja.un

„Við gætum verið síðasta kynslóðin sem getur sett skilmálana um hvernig mannkyn og vélar lifa saman,“ sagði Guterres. „Dyrnar eru enn opnar. En þær verða ekki opnar lengi.“un