Kong Charles samler teknologitopper til KI-toppmøte i Skottland

Kong Charles III møter torsdag ledere fra store kunstig intelligens-selskaper på Dumfries House i Ayrshire i Skottland, samtidig som bransjen preges av økende frykt for at ukontrollert KI-utvikling kan true menneskeheten.

Ledere fra Nvidia ↗ 0.82%, Google Alphabet Inc. ↘ 0.61% DeepMind, OpenAI, Anthropic og andre selskaper samles ved hovedkvarteret til The King's Foundation for det Det kongelige slott beskriver som en diskusjon om "hvorvidt et felles sett med prinsipper kan utvikles" for å styre fremtiden for KI. Møtet, som arrangeres med bistand fra den britiske ideelle organisasjonen Ditchley Foundation, er ikke ventet å føre til bindende avtaler.nytimes+2

En kongelig oppfordring til tilbakeholdenhet

"Beslutningene som tas i denne formende tiden vil prege verdenen som arves av fremtidige generasjoner," vil kongen si i åpningstalen, som er delt på forhånd av slottet. "Oppgaven dere står overfor er ikke bare å utvikle teknologien videre, men å sikre at den forblir i menneskehetens, lokalsamfunnets og naturverdenens tjeneste."nytimes

Blant de rundt 30 deltakerne er Nvidia-administrerende direktør Jensen Huang, Google DeepMind-styreleder Demis Hassabis, OpenAI-finansdirektør Sarah Friar og Kanishka Narayan, Storbritannias KI-minister. Anthropic ønsker ikke å oppgi sin representant, og det er også ventet at Pavestolens KI-rådgiver, Paolo Benanti, vil delta.politico+2

Dyp splittelse i bransjen

Toppmøtet er den første internasjonale samlingen for ledende KI-selskaper siden Anthropic-sjef Dario Amodei publiserte et langt essay der han tok til orde for en koordinert oppbremsing i KI-utviklingen. Han advarte om at videre fremgang uten sikkerhetstiltak kan føre til katastrofe. OpenAI-sjef Sam Altman, Elon Musk og Hassabis uttrykte seg enige i Amodeis retning.abcnews

Men bransjen er fortsatt splittet. Meta ↗ 0.46%-sjef Mark Zuckerberg har gått imot, og argumenterer for at hvert selskap uavhengig må ivareta sikkerheten, og at "betydelig juridisk ansvar" allerede gir tilstrekkelig insentiv. Huang har også kritisert kravet om oppbremsing og uttalt at "markedskreftene er der allerede, vi trenger ingen nye lover". Microsoft ↘ 1.37%-styreleder Satya Nadella uttrykte støtte til et kontrollert tempo, men advarte om at sikkerhetsstyring "ikke kan kontrolleres av et lite antall aktører".abcnews

Geopolitiske spenninger lurer

Samlingen skjer midt i en større geopolitisk maktkamp om KI-regulering. President Trump avviste mandag advarsler om en KI-trussel som en "syk konspirasjon", og skrev på Truth Social at "den som vinner KI, vinner". Demokratiske lovgivere har oppfordret Kongressen til å vedta lover for KI-sikkerhet, mens Representantenes hus sin president Mike Johnson advarte om at forhastede reguleringer vil føre til at USA "taper kappløpet mot Kina".cbsnews

Forholdet mellom USA og Kina tilfører ennå et lag av kompleksitet. Selv om Kinas president Xi Jinping har advart mot farene ved "tap av kontroll" over KI, har Beijing avvist oppfordringer om å bremse utviklingen. Kinesiske myndigheter ser konseptet som et forsøk fra Washington på å "hevde sitt teknologiske herredømme", ifølge Leia Wang, forsker ved Carnegie Endowment for Peace. Trump skal etter planen møte Xi igjen i Washington 24. september, der KI-sikkerhet er ventet å bli diskutert.cbsnews

"De i vår verden som verdsetter vår menneskelighet og dens viktige moralske komponent, søker desperat deres forsikring om at vi ikke vil miste kontrollen over vår skjebne," vil kongen si til de fremmødte lederne torsdag.nytimes