Altman og Amodei skal orientere FNs sikkerhetsråd om KI på onsdag

Anthropic-sjef Dario Amodei og OpenAI-sjef Sam Altman skal orientere FNs sikkerhetsråd på onsdag i en sesjon viet fremtiden for kunstig intelligens, mens teknologien dominerer diskusjonene under FNs årlige hovedforsamling i New York.

Et viktig rådsmøte

Møtet, som er organisert av Frankrike, som innehar det roterende formannskapet i rådet med 15 medlemmer, vil også inneholde orienteringer fra Yoshua Bengio, medleder for FNs panel for KI, og Hugging Face-sjef Clément Delangue, ifølge Bloomberg. Amodei forventes å delta digitalt fremfor å være til stede i salen. En talsperson for OpenAI sa til Reuters at Altmans innlegg vil fokusere på "tiltakene OpenAI tar for å sikre at KI er trygg og kommer mennesker globalt til gode, sammen med behovet for internasjonalt samarbeid og felles sikkerhetsstandarder".thenextweb+3

Sesjonen markerer bare andre gang Sikkerhetsrådet har tatt opp KI siden teknologien først ble diskutert i juli 2023, da Kina advarte om at den ikke måtte bli en "løpsk hest". Ifølge et fransk notat vil møtet ta for seg ondsinnet bruk av KI og risikoen for å miste kontrollen over avanserte modeller.ctvnews+1

Samarbeid, konkurranse og antitrust-spenninger

Orienteringen kommer midt i en intens debatt om hvordan rivaliserende KI-laboratorier bør samarbeide om sikkerhet. The Information rapporterte 21. september at OpenAI og Anthropic tidligere i år forhandlet frem en juridisk bindende avtale om å gjensidig evaluere hverandres modeller for sårbarheter, der advokater på begge sider jobbet med å ferdigstille pakten. Under utkastet til vilkår ville hvert selskap få tilgang til den andres kommersielt tilgjengelige API-er, samtidig som de ble enige om ikke å lagre data.news.sbs+1

Denne samarbeidsviljen har allerede vakt juridisk oppsikt. 12. september publiserte Amodei et essay der han oppfordret KI-selskaper til å bremse utviklingstakten og etterlyste uavhengige evaluatorer inne i grensesprengende laboratorier. Etter at Altman og Elon Musk offentlig støttet forslaget, sendte abonnenter inn et gruppesøksmål om antitrust 19. september til en amerikansk distriktsdomstol i Nord-California. De hevder at Anthropic, OpenAI, SpaceXAI og Alphabets ↘ 3.58% Google brøt paragraf 1 i Sherman Antitrust Act ved å koordinere for å begrense KI-utviklingen.apnews+2

Trump gir KI nytt navn i hovedforsamlingen

Timer før den planlagte sesjonen i Sikkerhetsrådet brukte president Trump sin tale til hovedforsamlingen tirsdag på å erklære at USA vil erstatte "kunstig intelligens" med "superintelligens" i alle offentlige dokumenter. "Bruken av ordet kunstig får intelligens til å høres falsk ut," sa Trump til verdenslederne. "Det er ikke falskt. Det er faktisk fantastisk". Trump avviste også internasjonale forsøk på å regulere teknologien, og sa at han ikke ville "kvele veksten av noe som vil bli større enn den industrielle revolusjon".breitbart+1

De to hendelsene, Trumps navnebytte og orienteringen i Sikkerhetsrådet, understreker det økende gapet mellom Washingtons dereguleringstilnærming og KI-lederes og allierte regjeringers press for koordinerte sikkerhetsmekanismer.