Karl konungur hýsir leiðtogafund um öryggi gervigreindar í Skotlandi

Karl 3. Bretakonungur fundar á fimmtudag með stjórnendum stórra gervigreindarfyrirtækja í Dumfries House í Ayrshire í Skotlandi, á sama tíma og geirinn glímir við vaxandi ótta um að stjórnlaus þróun gervigreindar geti ógnað mannkyninu.

Stjórnendur frá Nvidia ↗ 0.82%, Google Alphabet Inc. ↘ 0.61% DeepMind, OpenAI, Anthropic og fleiri fyrirtækjum koma saman í höfuðstöðvum Konungsstofnunarinnar (e. King's Foundation) til að ræða, eins og Búkkingham-höll orðaði það, „hvort hægt sé að móta sameiginlegar meginreglur“ til að stýra framtíð gervigreindar. Ekki er búist við að fundurinn, sem skipulagður er í samstarfi við bresku sjálfseignarstofnunina Ditchley Foundation, skili bindandi samningum.nytimes+2

Konungleg áskorun um gát

„Ákvarðanirnar sem teknar eru á þessum mótunartímum munu móta heiminn sem komandi kynslóðir erfa,“ segir konungur í upphafsræðu sinni sem höllin birti fyrirfram. „Verkefnið sem við ykkur blasir er ekki einfaldlega að efla tæknina, heldur að tryggja að hún þjóni áfram af festu mannkyninu, samfélaginu og náttúrunni.“nytimes

Meðal um 30 gesta fundarins eru Jensen Huang, forstjóri Nvidia, Demis Hassabis, stjórnarformaður Google DeepMind, Sarah Friar, fjármálastjóri OpenAI, og Kanishka Narayan, gervigreindarráðherra Bretlands. Anthropic gaf ekki upp hver mundi koma fyrir þeirra hönd, en einnig er búist við Paolo Benanti, gervigreindarráðgjafa Páfagarðs.politico+2

Djúp skipting innan geirans

Leiðtogafundurinn er fyrsti alþjóðlegi fundur helstu gervigreindarfyrirtækja síðan Dario Amodei, forstjóri Anthropic, birti langa ritgerð þar sem hann kallaði eftir samræmdri hægingu á þróun gervigreindar og varaði við því að frekari framfarir án öryggisráðstafana gætu leitt til kasta. Sam Altman, forstjóri OpenAI, Elon Musk og Hassabis lýstu yfir stuðningi við sjónarmið Amodei.abcnews

En geirinn er enn skiptur. Mark Zuckerberg, forstjóri Meta ↗ 0.46%, hefur hafnað þessu og fært rök fyrir því að hvert fyrirtæki eigi sjálfstætt að tryggja öryggi og að „veruleg ábyrgð“ veiti þegar nægilegan hvata. Huang hefur einnig gagnrýnt kröfur um hægingu og sagt að „markaðsöflin séu þegar til staðar: við þurfum engin ný lög“. Satya Nadella, stjórnarformaður Microsoft ↘ 1.37%, lýsti yfir stuðningi við yfirvegaðan hraða en varaði við því að öryggisstjórnun „getir ekki verið stýrt af nokkrum fáum aðilum“.abcnews

Landfræðileg spenna í lofti

Fundurinn fer fram í skugga víðtækari landfræðilegrar spennu vegna reglusetningar um gervigreind. Trump forseti hafnaði á mánudag viðvörunum um ógn af völdum gervigreindar sem „sjúku samsæri“ og skrifaði á Truth Social að „sá sem vinnur gervigreindina, vinnur“. Þingmenn Demókrataflokksins hafa hvatt Bandaríkjaþing til að samþyggja lög um öryggisráðstafanir í gervigreind, en Mike Johnson, forseti fulltrúadeildarinnar, varaði við því að hraða reglusetningu myndi þýða að Bandaríkin „töpuðu keppninni við Kína“.cbsnews

Samskipti Bandaríkjanna og Kína auka enn á flækjustigið. Þótt Xi Jinping Kínaforseti hafi varað við hættunni á að „missa stjórn“ á gervigreind hafa stjórnvöld í Peking hafnað kröfum um að hægja á þróun. Þau líta á þær hugmyndir sem tilraun stjórnvalda í Washington til að „tryggja tæknilega yfirburði sína“, að sögn Leia Wang, sérfræðings hjá Carnegie Endowment for Peace. Trump á að mæta Xi aftur í Washington þann 24. september, þar sem búist er við að öryggi gervigreindar verði rætt.cbsnews

„Þeir í okkar heimi sem meta mannkynið og mikilvæga siðferðislega þætti þess leita áhyggjufullir eftir fullvissu ykkar um að við munum ekki missa stjórn á örlögum okkar,“ mun konungur segja við stjórnendurna á fimmtudag.nytimes