Kung Charles samlar AI-ledare i Skottland mitt i krav på bromsad utveckling

Kung Charles samlar denna vecka ett 30-tal av världens mest framstående chefer inom artificiell intelligens på Dumfries House i Ayrshire, Skottland, för att diskutera hur tekniken kan utvecklas "för mänsklighetens bästa." Mötet äger rum samtidigt som varningar inifrån själva AI-branschen har nått en kokpunkt, efter att Anthropic-vd:n Dario Amodei i lördags efterlyst en medveten inbromsning av utvecklingen av avancerade modeller.

Ett kungligt initiativ

Evenemanget, som först rapporterades av Politico, samlar ledare från Nvidia ↗ 2.87%, Anthropic, Google Alphabet Inc. ↗ 2.00% DeepMind och OpenAI vid huvudkontoret för The King's Foundation, en välgörenhetsorganisation som Charles grundade 1990. Nvidia-chefen Jensen Huang, Google DeepMind-grundaren Demis Hassabis, IonQ ↘ 2.66%-ordföranden och vd:n Niccolo de Masi, samt Paolo Benanti, rådgivare till påven i AI-etik, är bland de som förväntas delta.politico+2

Ditchley Foundation leder toppmötet och har tagit fram ett utkast till ett charter för AI-ledare. Charterdokumentet uppges innehålla en "gemensam uppsättning principer" som ska "vägleda framtida tillämpningar av AI, inte bara som en drivkraft för kapacitet och effektivitet, utan som ett verktyg som upprätthåller mänsklig värdighet och bidrar till välstånd för både människor och planeten," enligt The Sunday Times, vilket rapporterats av The Daily Mail och The Independent.dailymail+1

En kunglig källa berättade för The Sunday Times: "Kungen är där för att samla, lyssna och uppmuntra till dessa diskussioner och för att ställa frågan: 'Hur utvecklar vi AI för mänsklighetens bästa?'"independent+1

Larm inom branschen

Tidpunkten är anmärkningsvärd. I lördags publicerade Amodei en essä med titeln "We Must Pace the Frontier", där han argumenterar för att AI har "utvecklats drastiskt mycket snabbare" sedan i somras och att säkerhetsåtgärderna inte har hunnit med. Han föreslog en trestegsplan: att integrera oberoende utvärderare med insyn i AI-företag, samordna gemensamma säkerhetsstandarder och satsa på bättre global samordning.economictimes+1

Hassabis ställde sig bakom uppmaningen på X och skrev att "Darios essä pekar ut rätt väg framåt". Storbritanniens tidigare premiärminister Rishi Sunak, numera rådgivare till Anthropic, sa att "när laboratorierna själva ber om hastighetsbegränsningar bör regeringar lyssna". Senator Bernie Sanders gick ännu längre och krävde "en PAUS i utvecklingen av avancerad AI och ett förbud mot artificiell superintelligens".economictimes

Ett mönster av engagemang

Toppmötet i Skottland är inte Charles första steg inom AI-diplomati. Under ett besök i Washington i april träffade kungen teknikchefer, inklusive Amazon Amazon.com, Inc. ↘ 1.74%-grundaren Jeff Bezos och ledare från Apple ↗ 2.04% och Nvidia. Men samlingen på Dumfries House bär på en ökad känsla av brådska, då den sker bara dagar efter att forskaren Jacob Coxon offentligt sagt upp sig från branschen på grund av rädsla för att företag "tävlar om att bygga system de inte kommer att kunna kontrollera".politico+1

Huruvida en uppsättning principer som stöds av kungahuset kan dämpa ett globalt teknikkapplöpning återstår att se. Som den kungliga källan uttryckte det: "Han vet att det kommer att påverka alla i samhället. Han vill ställa frågan: 'Skulle det vara till hjälp att ha en uppsättning principer?' Hans känsla är att det inte är en enkel sak att göra, men det betyder inte att vi inte bör försöka."dailymail