KI-Gesetz: EU setzt erste Transparenz- und Deepfake-Regeln in Kraft

Die Europäische Union hat am 2. August mit der Durchsetzung zentraler Bestimmungen ihres wegweisenden KI-Gesetzes begonnen. Unternehmen müssen nun offenlegen, wenn Nutzer mit künstlicher Intelligenz interagieren, und KI-generierte oder manipulierte Inhalte, einschließlich Deepfakes, mit maschinenlesbaren Kennzeichnungen versehen.sifted+1

Neue Pflichten treten in Kraft

Nach den nun geltenden Regeln müssen Chatbots, KI-Assistenten und digitale Avatare Nutzer klar darüber informieren, dass sie es mit einem automatisierten System und nicht mit einem Menschen zu tun haben. Deepfake-Bilder, -Videos und -Audiodateien müssen sichtbar gekennzeichnet sein, und die betroffenen Inhalte müssen technische Marker enthalten, damit Plattformen und automatisierte Tools sie erkennen können. Auch KI-generierte Texte, die zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlicht werden, müssen offengelegt werden, wenn sie keine menschliche Prüfung oder redaktionelle Aufsicht erfahren haben.theaiinsider

Anbieter von KI-Modellen mit allgemeinem Verwendungszweck stehen vor zusätzlichen Anforderungen: Sie müssen ihre Modelle dokumentieren und diese Informationen den Regulierungsbehörden zur Verfügung stellen, Richtlinien zur Einhaltung des Urheberrechts festlegen und ausreichend detaillierte Zusammenfassungen über die für das Training ihrer Systeme verwendeten Materialien veröffentlichen. Entwickler der leistungsfähigsten Modelle müssen zudem systemische Risiken wie Cyberangriffe, schädliche Manipulationen und Kontrollverlust angehen.theaiinsider

Nach Angaben der Europäischen Kommission haben bereits mehr als 180 Organisationen einen freiwilligen Verhaltenskodex unterzeichnet, der Unternehmen bei der Anwendung der Transparenzregeln unterstützen soll.theaiinsider

Durchsetzung und Strafen

Die Zuständigkeit für die Durchsetzung der Regeln ist zwischen dem KI-Büro der Europäischen Kommission, den nationalen Regulierungsbehörden und dem Europäischen Datenschutzbeauftragten aufgeteilt. Bei Verstößen drohen Unternehmen Geldbußen von bis zu 3 Prozent ihres weltweiten Jahresumsatzes.sifted+1

„Die Transparenzanforderungen des KI-Gesetzes sind weitreichender, als die meisten Organisationen ahnen“, sagte Marcus Evans, Partner bei der Anwaltskanzlei Norton Rose Fulbright. „Dies ist nicht nur ein Thema für die großen KI-Entwickler: Es kann auch Organisationen betreffen, die KI-Tools unter ihrer eigenen Marke einführen.“sifted

Es wird erwartet, dass die Regeln den Druck auf US-amerikanische KI-Unternehmen erhöhen, die europäische Kunden bedienen. „Jedes Labor mit europäischen Kunden muss sich nun darüber im Klaren sein: Wenn die Ergebnisse seines Modells EU-Nutzer erreichen, fällt es in den Anwendungsbereich“, sagte Peter Van Dyck, Partner bei der Anwaltskanzlei A&O Shearman.sifted

Wie es weitergeht

Die Durchsetzung wird voraussichtlich schrittweise erfolgen, wobei die Regulierungsbehörden anfangs eher darauf achten werden, dass Unternehmen aktive Bemühungen um Compliance nachweisen, anstatt sofort Strafen zu verhängen. Ein 60-köpfiges wissenschaftliches Gremium aus unabhängigen KI-Experten wird technische Unterstützung leisten, und das KI-Büro hat Alessandro Abate von der Universität Oxford zum leitenden wissenschaftlichen Berater ernannt.theaiinsider+1

Weitere Bestimmungen stehen noch aus. Die EU plant, am 2. Dezember 2026 zusätzliche Verbote einzuführen, während die Anforderungen für hochriskante KI-Systeme auf 2027 und 2028 verschoben wurden.theaiinsider