OpenAI: Mitarbeiter warnten jahrelang vor Sicherheitslücken

Laut einem am 3. November veröffentlichten Bericht von Reuters äußerten OpenAI-Mitarbeiter bereits vor der Einführung von ChatGPT Ende 2022 Bedenken hinsichtlich der internen Sicherheit des Unternehmens. Reuters beruft sich dabei auf fünf mit der Angelegenheit vertraute Personen. Einige dieser Mitarbeiter trugen ihre Sorgen an die Unternehmensführung und den Vorstand heran. Mehrere gewannen den Eindruck, dass das Management mehr Wert darauf legte, mit Google und Anthropic Schritt zu halten, als die Technologie des Unternehmens zu schützen. Als OpenAI im Oktober bekannt gab, dass in einem Konferenzraum der Geschäftsführung ein Aufnahmegerät gefunden wurde, zeigten sich mehrere ehemalige Mitarbeiter wenig überrascht.rmb.reuters.com

Der Bericht erhöht den Druck auf OpenAI und Anthropic. Beide Unternehmen stehen zunehmend unter Beobachtung, da US-Behörden ihre Technologie mittlerweile als strategisches Gut betrachten. Zusätzliche Sicherheitsmaßnahmen könnten laut Reuters die Forschung verlangsamen und die Pläne beider Unternehmen für einen Börsengang erschweren.ca.finance.yahoo.com

Offener Code und ungeprüfte Tools

Die Quellen berichteten Reuters, dass OpenAI den Großteil seines Codes in einem einzigen Monorepo speicherte. Dies bedeutete, dass jeder mit Zugriff Details zu sensiblen Projekten einsehen konnte, die nichts mit der eigenen Arbeit zu tun hatten. Drei Personen gaben zudem an, dass interne Tools, einschließlich der Sandboxes für Stresstests von Modellen, keine regelmäßigen Sicherheitsüberprüfungen erhielten. OpenAI entgegnete, dass die sensibelsten Arbeiten in separaten Repositories mit strengen Zugriffskontrollen gespeichert seien. Das Unternehmen erklärte, dass das Monorepo keine Modellgewichte enthalte und interne Tools mittlerweile regelmäßig überprüft würden.ca.finance.yahoo.com

Thibault Sottiaux, ein leitender Produktmanager, hat die Leitung einer Initiative zur Sicherung interner Systeme übernommen. Im August habe er ein Viertel der Produktionsingenieure von OpenAI auf die Sicherheitsinfrastruktur angesetzt, so eine Quelle. Sprecherin Elana Widmann bezeichnete OpenAI als eine der am stärksten angegriffenen Organisationen der Welt. Sie betonte, dass die jüngsten Maßnahmen zeigten, wie das Sicherheitsprogramm Risiken identifiziere und entschlossen reagiere. Nachdem Reuters um eine Stellungnahme gebeten hatte, kündigte OpenAI in einem Blogbeitrag vom 2. November einen weiteren internen Sicherheitssprint an.

Der Abhörfall und externe Einbrüche

Am 13. Oktober teilte das Justizministerium mit, dass Bundesagenten Abdulrahman Alfozan, einen 35-jährigen saudischen Staatsbürger und OpenAI-Ingenieur, festgenommen haben. Ihm wird vorgeworfen, ein in Toilettenpapier eingewickeltes Aufnahmegerät in einem Konferenzraum der Geschäftsführung versteckt zu haben. Die Staatsanwaltschaft wirft ihm vor, ein internes KI-Tool genutzt zu haben, um die Reisen von Führungskräften nach Saudi-Arabien auszuspähen. Ein Richter ordnete laut Ground News an, ihn ohne Kaution in Haft zu behalten.ground.news+1

Unabhängig davon berichteten Forscher von Hacktron AI, dass sie im Juli Anthropic's Claude nutzten, um zwei kritische Schwachstellen zu verknüpfen. Dies ermöglichte es ihnen, die ChatGPT-Konten mehrerer OpenAI-Mitarbeiter zu übernehmen und auf interne Repositories zuzugreifen. OpenAI bestätigte den Bericht und erklärte, die Sicherheitslücken seien geschlossen worden.nbcnews.com+1

Anthropic hatte mit eigenen Problemen zu kämpfen. Ende Oktober gab ein Startup namens Cathedral Systems an, in die Systeme von Anthropic eingedrungen zu sein und Zugriff auf Slack-Kanäle erhalten zu haben, in denen Mitarbeiter sensible Details zu Modellen diskutierten. Anthropic teilte mit, dass die offengelegten Daten einige Geschäfts-Kontakte von Kunden und Partnern sowie grundlegende Benutzerkontodaten enthielten.ca.finance.yahoo.com

Geschwindigkeit versus Sicherheit

Will DePue, ein ehemaliger OpenAI-Forscher, der im April kündigte, fasste den Konflikt in einem von Reuters zitierten Beitrag zusammen: KI-Führungskräfte könnten "Geschwindigkeit nicht für Sicherheit opfern. Es ist ihnen wichtiger, schnell zu sein, als sicher zu sein, selbst vor unseren größten nationalen Gegnern."