Fei-Fei Li fordert unabhängige Aufsicht für KI-Sicherheit

Fei-Fei Li, KI-Pionierin und Mitgründerin von World Labs, forderte am Dienstag eine stärkere Aufsicht über künstliche Intelligenz durch unabhängige und öffentliche Stellen. Sie argumentierte, dass Sicherheitsbewertungen immer leistungsfähigerer Systeme nicht allein den Unternehmen überlassen werden sollten, die sie entwickeln.bloomberg

In einem Interview mit Bloomberg TV sagte Li, dass Forscher innerhalb von KI-Unternehmen zwar die Leistungsfähigkeit und Sicherheit einzelner Modelle messen könnten, dies jedoch keinen Ersatz für umfassendere Standards darstelle, die von Regierungen, der Industrie und akademischen Einrichtungen entwickelt werden. Sie betonte, dass unabhängige Benchmarks, die Wissenschaft, der Staat und die Industrie alle eine Rolle bei der Bewertung immer mächtigerer Systeme spielen müssten.bloomberg+1

Eine konsistente Botschaft in einem sich wandelnden Umfeld

Lis Äußerungen stehen im Einklang mit einer Position, die sie im vergangenen Jahr konsequent vertreten hat. Auf der Ai4-Konferenz in Las Vegas im August trat sie gemeinsam mit Geoffrey Hinton und Andrew Ng in einer Debatte über KI-Risiken auf, in der sie sich für sektorspezifische Regulierung und öffentliche Investitionen anstelle von pauschalen KI-Beschränkungen aussprach. Sie hat politische Entscheidungsträger zudem dazu aufgerufen, bestehende Regulierungsrahmen in den Bereichen Gesundheit, Transport, Finanzen und Bildung an die KI anzupassen, anstatt zu versuchen, "den Geist wieder in die Flasche zu bekommen".forbes+1

In einer Anhörung vor dem Senatsausschuss für Innere Sicherheit Anfang des Monats drängte Li darauf, KI zu entmystifizieren, ihre Nutzung durch Datenschutz- und Fairnessmaßnahmen abzusichern und in öffentliche KI-Forschung zu investieren.hai.stanford

Eine breitere Debatte über Selbstregulierung

Ihr Appell kommt zu einem Zeitpunkt, an dem die Frage, ob sich die KI-Industrie selbst kontrollieren kann, immer stärker unter die Lupe genommen wird. Erst letzte Woche berichtete Forbes, dass der Vorschlag von Anthropic-CEO Dario Amodei zur Selbstregulierung, bei dem Unternehmen ihre externen Prüfer selbst auswählen würden, auf Kritik stieß, weil er nicht weit genug gehe. Kritiker verglichen die Idee damit, Fluggesellschaften ihre eigenen Sicherheitsinspektoren wählen zu lassen.forbes

Unterdessen treten die Anforderungen für Hochrisikosysteme des EU AI Act im August 2026 vollständig in Kraft, und mehrere US-Bundesstaaten haben Gesetze eingebracht, die unabhängige Audits von KI-Systemen vorschreiben. Die NIST AI Agent Standards Initiative, die Anfang des Jahres gestartet wurde, entwickelt zudem Standards für autonome KI-Agenten, die ohne kontinuierliche menschliche Aufsicht agieren.gunder+2

Li, die als CEO von World Labs fungiert und das Institute for Human-Centered AI in Stanford mitleitet, fasste das Thema als eine Frage der Sicherstellung zusammen, dass der Mensch die Kontrolle über die Entwicklung der KI behält. "Die Zukunft der KI dreht sich um den Menschen", sagte sie im Bloomberg-Interview.bloomberg