EU fordert Sicherheitsnachweise von KI-Firmen nach Brems-Appellen

Die Europäische Union hat am Montag Unternehmen im Bereich der künstlichen Intelligenz angewiesen, die Sicherheit ihrer Dienste nachzuweisen, bevor sie innerhalb der EU operieren dürfen. Dies geschieht vor dem Hintergrund einer intensiver werdenden Debatte über das Tempo der KI-Entwicklung, nachdem führende Branchenvertreter zu einer Verlangsamung aufgerufen hatten.

EU-Kommissionssprecher Thomas Regnier erklärte laut der Nachrichtenagentur Anadolu, dass die EU zwar Innovationen bei KI unterstütze, aber "keine Kompromisse bei unseren Sicherheitsstandards" eingehen werde. Unternehmen müssten beweisen, dass ihre Dienste für EU-Bürger sicher seien, so Regnier, der damit die Haltung der EU bekräftigte, während zentrale Bestimmungen des EU-KI-Gesetzes in Kraft treten.jpost+1

Ein Wochenende der KI-Sicherheitswarnungen

Die Stellungnahme der EU erfolgte Tage, nachdem Anthropic-CEO Dario Amodei am Samstag einen 3.800 Wörter umfassenden Essay mit dem Titel "We Must Pace the Frontier" veröffentlicht hatte. Darin warnt er, dass KI ohne eine bewusste Verlangsamung innerhalb weniger Monate zu Handlungen fähig sein könnte, die ernsthafte Risiken bergen, etwa die Steuerung von Agenten-Schwärmen, die kritische Internetinfrastruktur gefährden könnten. Amodei forderte unabhängige Prüfer zur Verifizierung der Sicherheitsstandards in großen KI-Laboren und drängte Unternehmen dazu, externen Gutachtern "kontinuierlichen, mitarbeiterähnlichen Zugang" zur Überwachung ihrer Arbeit zu gewähren.techxplore+2

Der Aufruf stieß bei anderen führenden Führungskräften auf schnelle Unterstützung. OpenAI-CEO Sam Altman stimmte der Notwendigkeit zu, die Fortschritte bei Frontier-Modellen zu verlangsamen, während Elon Musk Amodeis Position in einem Beitrag auf X unterstützte und auch der Vorsitzende von Google DeepMind Alphabet Inc. ↘ 1.24%, Demis Hassabis, Zustimmung signalisierte. Der Chor der Besorgnis ließ KI-bezogene Aktien vor Handelsbeginn am Montag fallen, wobei insbesondere Chip- und Speicherhersteller betroffen waren.nytimes+2

Europa schlägt eigenen KI-Weg ein

Unabhängig davon veröffentlichte am Montag eine Koalition aus Ökonomen und ehemaligen politischen Entscheidungsträgern – darunter Nobelpreisträger Philippe Aghion und die ehemalige EU-Kommissarin Margrethe Vestager – eine Strategie für transformative KI, die davor warnt, dass Europa ohne sofortiges Handeln eine "dauerhafte Marginalisierung" riskiert.ieu-monitoring

Die Strategie fordert die EU-Mitgliedstaaten auf, bis 2030 einen Anteil von 15 Prozent an der globalen Kapazität für KI-Rechenzentren anzustreben, gegenüber derzeit etwa 5 Prozent. Dies erfordert geschätzte Investitionen von 1,3 Billionen Euro sowie zusätzlich 45 Gigawatt an Stromleistung. Clemens Fuest, Präsident des ifo Instituts und Mitautor, merkte an, dass europäische Entwickler von KI-Modellen "zusammen weniger als 2 Prozent des Umsatzes von nur zwei US-Wettbewerbern generieren".ieu-monitoring

Regulierung trifft auf Dringlichkeit

Die Verpflichtungen für Hochrisikosysteme aus dem EU-KI-Gesetz wurden am 2. August 2026 durchsetzbar. Sie erfordern, dass Anbieter Konformitätsbewertungen abschließen, Systeme in einer EU-Datenbank registrieren und eine Marktüberwachung aktivieren. Bei Nichteinhaltung drohen Unternehmen Bußgelder von bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes.cloudsecurityalliance+1

Vestager, Mitautorin der neuen Strategie, fasste den Moment drastisch zusammen: "Wir dürfen nicht zulassen, dass Europa zum Spielfeld für ausländische Mächte wird".ieu-monitoring