Kung Charles samlar teknologitoppar till AI-toppmöte i Skottland

Kung Charles III möter på torsdagen chefer från ledande företag inom artificiell intelligens på Dumfries House i Ayrshire i Skottland, samtidigt som branschen präglas av en allt starkare oro för att en okontrollerad AI-utveckling kan hota mänskligheten.

Ledare från Nvidia ↗ 0.82%, Google Alphabet Inc. ↘ 0.61% DeepMind, OpenAI, Anthropic och andra bolag samlas vid högkvarteret för The King's Foundation för vad Buckingham Palace beskriver som en diskussion om "huruvida en gemensam uppsättning principer kan tas fram" för att styra AI:s framtid. Mötet, som arrangeras med hjälp av den brittiska ideella organisationen Ditchley Foundation, väntas inte leda till några bindande avtal.nytimes+2

En kunglig uppmaning till återhållsamhet

"De beslut som tas under denna formande tid kommer att prägla den värld som ärvs av framtida generationer," kommer kungen att säga i sina öppningsanföranden som delats i förväg av hovet. "Uppgiften framför er är inte bara att utveckla tekniken, utan att säkerställa att den förblir i mänsklighetens, lokalsamhällets och naturens tjänst."nytimes

Bland de cirka 30 deltagarna finns Nvidias vd Jensen Huang, Google DeepMinds styrelseordförande Demis Hassabis, OpenAI:s finanschef Sarah Friar och Kanishka Narayan, Storbritanniens AI-minister. Anthropic avböjde att uppge vem som representerar dem, och Vatikanens AI-rådgivare Paolo Benanti väntas också delta.politico+2

Djupa sprickor i branschen

Toppmötet är den första internationella sammankomsten för ledande AI-bolag sedan Anthropics vd Dario Amodei publicerade en lång essä där han uppmanade till en samordnad inbromsning av AI-utvecklingen och varnade för att framsteg utan skyddsåtgärder kan leda till katastrof. OpenAI:s vd Sam Altman, Elon Musk och Hassabis höll med om Amodeis inriktning.abcnews

Men branschen är fortsatt splittrad. Meta ↗ 0.46%:s vd Mark Zuckerberg har slagit ifrån sig och hävdar att varje bolag självständigt bör ta ansvar för säkerheten samt att "betydande skadeståndsansvar" redan ger tillräckliga incitament. Huang har också kritiserat kravet på inbromsning och sagt att "marknadskrafterna finns redan där, vi behöver inga nya lagar". Microsofts ↘ 1.37% styrelseordförande Satya Nadella uttryckte stöd för en uppmärksam och avvägd takt, men varnade för att säkerhetsstyrning "inte kan kontrolleras av ett fåtal aktörer".abcnews

Geopolitiska spänningar hägrar

Sammankomsten sker mot bakgrund av ett större geopolitiskt dödläge om AI-reglering. President Trump avfärdade i måndags varningar om ett AI-hot som en "sjuk konspiration" och skrev på Truth Social att "den som vinner AI vinner". Demokratiska lagstiftare har uppmanat kongressen att anta AI-säkerhetslagstiftning, medan representanthusets talman Mike Johnson varnade för att förhastade regleringar innebär att USA "kommer att förlora kapprustningen mot Kina".cbsnews

Dynamiken mellan USA och Kina tillför ytterligare en dimension av komplexitet. Även om Kinas president Xi Jinping har varnat för farorna med att "förlora kontrollen" över AI, har Peking avvisat alla uppmaningar om att bromsa utvecklingen och ser konceptet som ett försök från Washington att "hävda sin teknologiska dominans", enligt Leia Wang, forskare vid Carnegie Endowment for Peace. Trump ska möta Xi igen i Washington den 24 september, där AI-säkerhet väntas diskuteras.cbsnews

"De i vår värld som värdesätter vår mänsklighet och dess viktiga moraliska komponent söker desperat er försäkran om att vi inte kommer att förlora kontrollen över vårt öde," kommer kungen att säga till de församlade cheferna på torsdagen.nytimes