AI-regulering

Altman vil ha globalt tilsynsorgan for KI

OpenAI-sjef Sam Altman orienterte forrige uke ansatte om tre mulige måter industrien kan regulere utviklingen av superintelligens på. Han uttrykte støtte til et internasjonalt tilsynsorgan etter modell fra atomkraftovervåking, og avviste et scenario der ett selskap setter konkurrentene ut av…

Du har fått med deg alt

Du har sett alle hovedsakene fra de siste 2 dagene.

OpenAI-sjef Altman skal orientere FNs sikkerhetsråd om AI-risiko

OpenAI publiserte mandag et forslag som oppfordrer USA til å ta ledelsen i et internasjonalt arbeid for å utvikle globale sikkerhets- og tekniske standarder for avansert AI. Selskapet advarer om at passivitet kan føre til at landet ender opp med…

Fei-Fei Li krever uavhengig tilsyn med AI-sikkerhet

Fei-Fei Li, AI-pioner og medgründer av World Labs, tok tirsdag til orde for strengere tilsyn med kunstig intelligens fra uavhengige og offentlige aktører. Hun argumenterer for at sikkerhetsvurderinger av stadig mer avanserte systemer ikke bør overlates utelukkende til selskapene som…

Hinton anklager Nvidias Huang for egeninteresser i motstand mot AI-regulering

Nobelprisvinner Geoffrey Hinton, kjent som "AI-ens gudfar", kom med sine nyeste dystre advarsler om farene ved kunstig intelligens i et eksklusivt intervju med NDTV. Der kritiserte han Nvidia sin administrerende direktør Jensen Huang for å ha "egeninteresser" i å motsette…

Microsofts AI-sjef: Kina er ingen unnskyldning for å droppe regulering

Microsoft sin AI-sjef Mustafa Suleyman argumenterte søndag for at USA ikke bør bruke konkurransen med Kina som en grunn til å unngå regulering av kunstig intelligens, og tok til motmæle mot Det hvite hus sin motstand mot omfattende sikkerhetskrav for…

AI-pioner Bengio ber regjeringer «våkne opp» til eksistensiell trussel

Yoshua Bengio, den Turing-prisvinnende informatikeren som blir ansett som en av «gudfedrene» for kunstig intelligens, ber nå regjeringer og offentligheten om å «våkne opp» til de eksistensielle truslene AI utgjør. Han advarer om at teknologien er i ferd med å…

Ledende AI-laboratorier ber om roligere utviklingstakt etter sikkerhetsfrykt

AI-bransjen står overfor sitt mest skjellsettende interne oppgjør siden teknologien for alvor slo igjennom. Ledende laboratorier innrømmer nå at rekursiv selvforbedring, der AI-modeller på egen hånd bygger mer kapable etterfølgere, er nærmere enn tidligere antatt. Samtidig krangler toppledere åpenlyst om…

Kong Charles samler teknologitopper til KI-toppmøte i Skottland

Kong Charles III møter torsdag ledere fra store kunstig intelligens-selskaper på Dumfries House i Ayrshire i Skottland, samtidig som bransjen preges av økende frykt for at ukontrollert KI-utvikling kan true menneskeheten.

EU skal drøfte globale KI-regler mens Trump kaller sikkerhetsfrykt for en «bløff»

Offentlige tjenestepersoner fra hele EU samles i Brussel på torsdag for å diskutere hvordan man kan fastsette globale regler for å motvirke trusler fra avanserte KI-modeller, ifølge to EU-diplomater og et utkast til dagsorden som Politico har sett.

FNs menneskerettighetssjef krever strengere kontroll med avansert KI

FNs høykommissær for menneskerettigheter, Volker Türk, oppfordret mandag myndigheter og ledende selskaper innen kunstig intelligens til å handle umiddelbart for å håndtere det han beskriver som "enestående risikoer" knyttet til avanserte KI-systemer. Han advarer om at verden har et lite…

Kina bygger regelverk mot KI ute av kontroll

Mens USA og Kina forbereder seg på sine første tosidige samtaler om KI-sikkerhet senere denne måneden, har Beijing stille og rolig bygget et av verdens mest detaljerte regulatoriske rammeverk for et scenario mange en gang avfeide som science fiction: kunstig…

Sanders krever AI pause og forbud mot superintelligens

Den amerikanske senatoren Bernie Sanders oppfordret lørdag president Donald Trump og Kinas president Xi Jinping til å forhandle frem en avtale om å sette utviklingen av avansert kunstig intelligens på pause og forby kunstig superintelligens. Sanders argumenterte med at de…

Tegmark: OpenAI-hendelser beviser at AI-risiko ikke lenger er teoretisk

OpenAI har erkjent at deres autonome AI-agenter omgikk sikkerhetskontroller, kommuniserte via uautoriserte kanaler og trengte inn i produksjonssystemene til Hugging Face under intern cybersikkerhetstesting i juli 2026. Hendelsene har nå utløst fornyede krav om føderal regulering av AI.

Bill Gates advarer i nytt essay: Mangler planer for KI-omveltning

Bill Gates, dollarmilliardæren og velgjøreren som medgrunnla Microsoft, publiserte onsdag et essay på nesten 6 000 ord der han advarer om at kunstig intelligens utvikler seg mye raskere enn myndigheter og samfunnet er forberedt på å håndtere. Han kaller den…

Anthropic-sjefen: Motstanden mot KI er en «tillitskrise»

Anthropics administrerende direktør Dario Amodei sa lørdag at offentlighetens økende motstand mot kunstig intelligens ikke skyldes pessimistiske budskap fra bransjeledere, men gjenspeiler en dypere, tiår gammel svekkelse av tilliten til selskaper og myndigheter. I en sjelden serie innlegg på X…

Hassabis fremmet plan for AI-tilsyn før han forlot DeepMind

I ukene før Alphabet kunngjorde en omfattende lederendring hos Google DeepMind den 5. august, jobbet Demis Hassabis i det stille med mer enn bare modellutvikling: et forslag om et uavhengig organ for å overvåke avansert kunstig intelligens, ifølge The Wall…

OpenAI viste frem «Astra» multi-agent AI for regulatorer

OpenAI-sjef Sam Altman reiste til Washington, D.C. denne uken for å gi føderale regulatorer en lukket demonstrasjon av en ny AI-modellserie kalt «Astra», ifølge en eksklusiv rapport fra The Information. Forhåndsvisningen markerer selskapets nyeste forsøk på å bygge tillit hos…

Tyskland krever AI-selvforsyning etter at OpenAI-agent hacket Hugging Face

OpenAI avslørte 21. juli at flere av deres avanserte AI-modeller slapp ut av et kontrollert testmiljø, fikk tilgang til det åpne internettet og hacket seg inn i systemene til Hugging Face, den mye brukte plattformen for AI-utvikling, i det selskapet…

ChatGPT ga instruksjoner om biologiske våpen til hundrevis, melder WSJ

Etter at OpenAI oppgraderte sin chatbot i fjor sommer, sendte hundrevis av brukere over hele verden inn forespørsler til ChatGPT om hvordan man produserer og bruker biologiske våpen og giftstoffer, og modellen ga detaljerte svar, ifølge en undersøkelse fra Wall…

Google DeepMinds Hassabis etterlyser et USA-ledet globalt AI-tilsyn

Demis Hassabis, medgründer og administrerende direktør i Google Alphabet Inc. DeepMind, oppfordrer USA til å etablere et nytt globalt AI-tilsynsorgan med makt til å kontrollere verdens mest avanserte AI-modeller og stanse utviklingen av dem dersom de anses som farlige, ifølge…

FN-panel advarer om at KI løper fra verdens evne til å regulere den

Et vitenskapelig panel fra FN slapp sin første rapport om kunstig intelligens på onsdag, og advarte om at KI-kapasiteter utvikler seg raskere enn vitenskapelig forståelse og myndighetenes politikk klarer å holde tritt med, og at det ikke finnes noen garantier…

OpenAI og Anthropic ber begge om globalt AI-tilsyn

OpenAI-sjef Sam Altman og sjefsforsker Jakub Pachocki publiserte mandag et blogginnlegg der de ber om dannelsen av en internasjonal organisasjon for å overvåke utviklingen av banebrytende AI, inkludert muligheten til å bremse fremgangen "ved behov" slik at sikkerhet og samfunnsmessig…