Kong Charles samler AI-ledere i Skottland midt i krav om brems

Kong Charles samler denne uken rundt 30 av verdens mest fremtredende ledere innen kunstig intelligens på Dumfries House i Ayrshire, Skottland, for å diskutere hvordan teknologien kan utvikles "til det beste for menneskeheten." Møtet finner sted samtidig som advarsler fra selve AI-bransjen har nådd et kokepunkt, etter at Anthropic-sjef Dario Amodei lørdag tok til orde for en bevisst nedbremsing av utviklingen av avanserte modeller.

Et kongelig initiativ

Arrangementet, som først ble omtalt av Politico, samler ledere fra Nvidia ↘ 1.47%, Anthropic, Google Alphabet Inc. ↘ 3.58% DeepMind og OpenAI ved hovedkvarteret til The King's Foundation, en veldedig organisasjon Charles grunnla i 1990. Nvidia-sjef Jensen Huang, Google DeepMind-grunnlegger Demis Hassabis, IonQ ↗ 4.42%-styreleder og administrerende direktør Niccolo de Masi, samt Paolo Benanti, rådgiver for paven om AI-etikk, er blant de som forventes å delta.politico+2

Ditchley Foundation leder toppmøtet og har utarbeidet et utkast til et charter for AI-ledere. Charteret skal inneholde et "felles sett med prinsipper" som skal "bidra til å veilede fremtidig bruk av AI, ikke bare som en driver for kapasitet og effektivitet, men som et verktøy som ivaretar menneskeverdet og bidrar til trivsel for både mennesker og planeten," ifølge The Sunday Times, som sitert av The Daily Mail og The Independent.dailymail+1

En kongelig kilde uttalte til The Sunday Times: "Kongen er der for å samle, lytte og oppmuntre til disse diskusjonene, og for å stille spørsmålet: 'Hvordan utvikler vi AI til det beste for menneskeheten?'"independent+1

Alarm i bransjen

Tidspunktet er bemerkelsesverdig. Lørdag publiserte Amodei et essay med tittelen "We Must Pace the Frontier", der han argumenterer for at AI har "utviklet seg drastisk raskere" siden i sommer og at sikkerhetstiltakene ikke har holdt følge. Han foreslo en tretrinnsplan: å integrere tredjeparts-evaluatorer med ansatt-tilgang i AI-selskaper, koordinere felles sikkerhetsstandarder og satse på bedre global koordinering.economictimes+1

Hassabis støttet oppfordringen på X, og skrev at "Darios essay peker mot riktig vei videre". Tidligere britisk statsminister Rishi Sunak, nå rådgiver for Anthropic, sa at "når laboratoriene selv ber om fartsgrenser, bør myndighetene lytte". Senator Bernie Sanders gikk enda lenger og tok til orde for "en PAUSE i utviklingen av avansert AI og et forbud mot kunstig superintelligens".economictimes

Et mønster av engasjement

Toppmøtet i Skottland er ikke Charles' første forsøk på AI-diplomati. Under et besøk i Washington i april møtte kongen teknologiledere, inkludert Amazon Amazon.com, Inc. ↘ 2.24%-grunnlegger Jeff Bezos og ledere fra Apple ↘ 0.80% og Nvidia. Men samlingen på Dumfries House bærer preg av økt hastverk, da den kommer dager etter at forsker Jacob Coxon offentlig sa opp jobben i bransjen på grunn av frykt for at selskaper "kappløper om å bygge systemer de ikke vil være i stand til å kontrollere".politico+1

Om et sett med prinsipper vertskapet av kongehuset kan dempe et globalt teknologikappløp, gjenstår å se. Som den kongelige kilden uttrykte det: "Han vet at det vil påvirke alle i samfunnet. Han ønsker å stille spørsmålet: 'Ville det være nyttig å ha et sett med prinsipper?' Hans følelse er at det ikke er en enkel oppgave, men det betyr ikke at vi ikke bør prøve."dailymail