EU krever at AI-selskaper beviser sikkerhet etter krav om oppbremsing

EU ga mandag beskjed til selskaper innen kunstig intelligens om at de må bevise at tjenestene deres er trygge før de kan operere i unionen, samtidig som debatten om tempoet i AI-utviklingen tilspisser seg etter krav fra sentrale bransjeledere om å bremse ned.

EU-kommisjonens talsperson Thomas Regnier sa at unionen støtter innovasjon innen AI, men at de ikke vil "kompromisse på våre sikkerhetsstandarder," ifølge Anadolu Agency. Selskaper må bevise at tjenestene deres er trygge for EU-borgere, sa Regnier, og bekreftet unionens holdning idet sentrale deler av EUs AI-forordning trer i kraft.jpost+1

En helg med AI-sikkerhetsalarmer

EUs uttalelse kom dager etter at Anthropic-sjef Dario Amodei lørdag publiserte et 3800 ord langt essay med tittelen "We Must Pace the Frontier," der han advarer om at AI uten en bevisst oppbremsing i løpet av måneder kan bli i stand til å utføre handlinger som utgjør alvorlig risiko, inkludert å styre agent-svermer som kan kompromittere kritisk internettinfrastruktur. Amodei tok til orde for uavhengige revisorer som kan verifisere sikkerhetsstandarder hos store AI-laboratorier, og oppfordret selskaper til å gi eksterne evaluatorer "kontinuerlig, ansatt-lignende tilgang" for å overvåke arbeidet deres.techxplore+2

Oppfordringen fikk rask støtte fra andre ledende ledere. OpenAI-sjef Sam Altman var enig i behovet for å bremse utviklingen av avanserte modeller, mens Elon Musk støttet Amodeis posisjon i et innlegg på X, og styreleder Demis Hassabis i Google DeepMind Alphabet Inc. ↘ 0.61% uttrykte også enighet. Koret av bekymring sendte AI-relaterte aksjer ned før børsåpning mandag, der selskaper innen brikker og minne ble spesielt rammet.nytimes+2

Europa staker ut sin egen AI-kurs

Separat publiserte en koalisjon av økonomer og tidligere beslutningstakere mandag, inkludert nobelprisvinner Philippe Aghion og tidligere EU-kommissær Margrethe Vestager, en strategi for transformativ AI som advarer om at Europa risikerer "permanent marginalisering" uten umiddelbare tiltak.ieu-monitoring

Strategien oppfordrer EU-landene til å sikte mot en andel på 15 prosent av global kapasitet for AI-datasentre innen 2030, opp fra omtrent 5 prosent i dag, noe som krever anslagsvis 1,3 billioner euro i investeringer og ytterligere 45 gigawatt med strøm. Clemens Fuest, leder for ifo-instituttet og medforfatter, bemerket at europeiske utviklere av AI-modeller "samlet genererer mindre enn 2 prosent av inntektene til bare to amerikanske konkurrenter".ieu-monitoring

Regulering møter hastverk

Forpliktelsene for høyrisikosystemer i EUs AI-forordning ble håndhevbare 2. august 2026, og krever at leverandører fullfører samsvarsvurderinger, registrerer systemer i en EU-database og aktiverer overvåking etter markedsføring. Selskaper risikerer bøter på opptil 35 millioner euro eller 7 prosent av den globale årsomsetningen ved manglende overholdelse.cloudsecurityalliance+1

Vestager, en medforfatter av den nye strategien, beskrev situasjonen skarpt: "Vi må ikke tillate at Europa blir en lekeplass for fremmede makter".ieu-monitoring