EU kräver att AI-bolag bevisar säkerhet efter krav på nedväxling

EU meddelade på måndagen att företag inom artificiell intelligens måste kunna påvisa säkerheten i sina tjänster innan de får verka inom unionen, i takt med att debatten om AI-utvecklingens tempo intensifieras efter krav från tunga branschledare om att sakta ner.

EU-kommissionens talesperson Thomas Regnier sade att unionen stöder innovation inom AI men att man inte kommer att "kompromissa med våra säkerhetsstandarder," enligt Anadolu Agency. Företag måste bevisa att deras tjänster är säkra för EU-medborgare, sade Regnier, och bekräftade unionens hållning i samband med att centrala delar av EU:s AI-förordning träder i kraft.jpost+1

En helg av AI-säkerhetslarm

EU:s uttalande kom dagar efter att Anthropic-vd:n Dario Amodei på lördagen publicerade en 3 800 ord lång essä med titeln "We Must Pace the Frontier," där han varnar för att AI utan en medveten nedväxling inom några månader kan bli kapabel till handlingar som utgör allvarliga risker, inklusive att styra agent-svärmar som kan skada kritisk internetinfrastruktur. Amodei efterlyste oberoende revisorer som kan verifiera säkerhetsstandarder hos stora AI-labb och uppmanade företag att ge externa utvärderare "kontinuerlig, anställningsliknande tillgång" för att övervaka deras arbete.techxplore+2

Uppmaningen fick snabbt stöd från andra ledande företagsledare. OpenAI-vd:n Sam Altman höll med om behovet av att sakta ner utvecklingen av avancerade modeller, medan Elon Musk gav sitt stöd till Amodeis position i ett inlägg på X, och styrelseordföranden för Google DeepMind Alphabet Inc. ↗ 0.78%, Demis Hassabis, uttryckte också sin enighet. Den samstämmiga oron pressade ner AI-relaterade aktier inför måndagens börsöppning, där bolag inom chip och minne drabbades särskilt hårt.nytimes+2

Europa stakar ut sin egen AI-väg

Separat publicerade en koalition av ekonomer och tidigare beslutsfattare på måndagen, däribland nobelpristagaren Philippe Aghion och tidigare EU-kommissionären Margrethe Vestager, en strategi för transformativ AI som varnar för att Europa riskerar "permanent marginalisering" utan omedelbara åtgärder.ieu-monitoring

Strategin uppmanar EU:s medlemsstater att sikta på en andel på 15 procent av den globala kapaciteten för AI-datacenter till 2030, upp från cirka 5 procent idag, vilket kräver uppskattningsvis 1,3 biljoner euro i investeringar och ytterligare 45 gigawatt el. Clemens Fuest, chef för ifo-institutet och medförfattare, noterade att europeiska utvecklare av AI-modeller "tillsammans genererar mindre än 2 procent av intäkterna hos bara två amerikanska konkurrenter".ieu-monitoring

Reglering möter brådska

Skyldigheterna för högrisk-system i EU:s AI-förordning blev tvingande den 2 augusti 2026, vilket kräver att leverantörer genomför konformitetsbedömningar, registrerar system i en EU-databas och aktiverar övervakning efter marknadsintroduktion. Företag riskerar böter på upp till 35 miljoner euro eller 7 procent av den globala årsomsättningen vid bristande efterlevnad.cloudsecurityalliance+1

Vestager, en av medförfattarna till den nya strategin, formulerade situationen skarpt: "Vi får inte tillåta att Europa blir en lekplats för utländska makter".ieu-monitoring