Altman och Amodei briefar FN:s säkerhetsråd om AI på onsdag

Anthropic-vd:n Dario Amodei och OpenAI-vd:n Sam Altman ska briefa FN:s säkerhetsråd på onsdag under en session tillägnad framtiden för artificiell intelligens, samtidigt som tekniken dominerar diskussionerna vid FN:s årliga generalförsamling i New York.

Ett högprofilerat rådsmöte

Mötet, som organiseras av Frankrike som innehar det roterande ordförandeskapet i rådet med 15 medlemmar, kommer även att innehålla föredragningar från Yoshua Bengio, medordförande för FN:s expertpanel för AI, samt Hugging Face-vd:n Clément Delangue, enligt Bloomberg. Amodei förväntas delta på distans istället för att vara på plats i kammaren. En talesperson för OpenAI uppgav för Reuters att Altmans anförande kommer att fokusera på "de steg OpenAI tar för att säkerställa att AI är säker och gynnar människor globalt, tillsammans med behovet av internationell samordning och gemensamma säkerhetsstandarder".thenextweb+3

Sessionen markerar endast andra gången som säkerhetsrådet tar upp AI sedan tekniken diskuterades första gången i juli 2023, då Kina varnade för att den inte får bli en "skenande häst". Enligt ett franskt konceptdokument kommer mötet att behandla skadlig användning av AI och risken för att förlora kontrollen över avancerade modeller.ctvnews+1

Samarbete, konkurrens och antitrust-spänningar

Briefingen kommer mitt i en tilltagande debatt om hur rivaliserande AI-labb bör samarbeta kring säkerhet. The Information rapporterade den 21 september att OpenAI och Anthropic tidigare i år förhandlat fram ett juridiskt bindande avtal om att ömsesidigt utvärdera varandras modeller för sårbarheter, där jurister på båda sidor arbetat med att slutföra pakten. Enligt utkastet till villkor skulle varje företag få tillgång till den andres kommersiellt tillgängliga API:er samtidigt som de enas om att inte behålla data.news.sbs+1

Denna samarbetsvilja har redan väckt juridisk granskning. Den 12 september publicerade Amodei en essä där han uppmanade AI-företag att sakta ner utvecklingstakten och efterlyste oberoende utvärderare inom gränsöverskridande labb. Efter att Altman och Elon Musk offentligt stött förslaget lämnade abonnenter in en grupptalan om antitrust den 19 september till en amerikansk distriktsdomstol i norra Kalifornien. De hävdar att Anthropic, OpenAI, SpaceXAI och Alphabets ↘ 0.99% Google brutit mot paragraf 1 i Sherman Antitrust Act genom att samordna sig för att begränsa AI-utvecklingen.apnews+2

Trump omprofilerar AI i generalförsamlingen

Timmar före den planerade sessionen i säkerhetsrådet använde president Trump sitt tal till generalförsamlingen på tisdagen för att deklarera att USA kommer att ersätta "artificiell intelligens" med "superintelligens" i alla myndighetsdokument. "Användningen av ordet artificiell får intelligens att låta falsk", sa Trump till världsledarna. "Det är inte falskt. Det är faktiskt fantastiskt". Trump avvisade också internationella ansträngningar att reglera tekniken och sa att han inte skulle "kväva tillväxten av något som kommer att bli större än den industriella revolutionen".breitbart+1

De två händelserna, Trumps omprofilering och briefingen i säkerhetsrådet, understryker det växande gapet mellan Washingtons avregleringslinje och AI-chefers samt allierade regeringars strävan efter samordnade säkerhetsspärrar.