OpenAI lässt externe Gruppen KI-Modelle früher prüfen

OpenAI gab am Dienstag bekannt, dass externe Organisationen technische Sicherheitsbewertungen seiner KI-Modelle bereits in früheren Phasen des Trainings, der Evaluierung und der Einführung durchführen dürfen. Dies ist ein Schritt, um den wachsenden Bedenken hinsichtlich potenzieller Gefahren durch hochmoderne KI-Systeme zu begegnen.

Die Macher von ChatGPT skizzierten Prioritäten für eine effektive Umsetzung dieser Überprüfungen, darunter "starke Unabhängigkeitsmechanismen, wissenschaftliche Genauigkeit, robuste Sicherheitspraktiken und klare Verantwortlichkeiten", so Bloomberg. Die Ankündigung, die über einen Blogbeitrag des Unternehmens erfolgte, fällt in eine Zeit intensiver Prüfung der Sicherheitspraktiken in der KI-Branche.bloomberg

Eine Welle von Sicherheitsvorschlägen

Der Schritt folgt auf eine schnelle Abfolge von sicherheitsbezogenen Ankündigungen der führenden KI-Labore. Am Montag veröffentlichte OpenAI eine Reihe von Vorschlägen, die sich auf die Ausrichtungsforschung und eine Rechentechnik namens rekursive Selbstverbesserung (RSI) konzentrieren, und rief zur internationalen Zusammenarbeit bei der Entwicklung von Standards auf. "Vollständig autonome RSI findet heute nicht statt, und wir sollten sie nicht verfolgen, es sei denn und bis sie sicher durchgeführt werden kann", schrieb das Unternehmen.cnbc

Letzte Woche veröffentlichte der Konkurrent Anthropic eigene Vorschläge für eine sicherere Entwicklung von Modellen, nachdem der Forscher Jacob Coxon eine globale Debatte ausgelöst hatte, indem er das Unternehmen verließ und warnte, dass KI-Labore "mit unserem Leben spielen". Anthropic-CEO Dario Amodei forderte daraufhin KI-Unternehmen auf, ihr Entwicklungstempo zu drosseln, und schlug vor, externe Prüfer in ihre Organisationen einzubetten.explainx+1

Vertrauenslücke bleibt bestehen

Trotz der vielen Versprechen bezweifeln Skeptiker, ob eine sinnvolle Aufsicht angesichts des halsbrecherischen Tempos der Branche möglich ist. Laut Schätzungen von Goldman Sachs ↘ 1.38%, die von Axios zitiert werden, dürften in den nächsten fünf Jahren mehr als 7 Billionen Dollar in die Skalierung von KI fließen. Sowohl OpenAI als auch Anthropic stehen unter Druck, immer leistungsfähigere Modelle zu liefern, während sie sich auf Börsengänge mit Billionen-Bewertungen vorbereiten.axios

Eine Koalition von über 100 KI-Prüfern forderte kürzlich die Hersteller von hochmodernen Modellen auf, "Mindestbedingungen" für unabhängige Audits zu akzeptieren, einschließlich tieferem Zugang und Schutz vor Vergeltungsmaßnahmen bei der Veröffentlichung ungünstiger Ergebnisse. Daniel Kokotajlo, ein ehemaliger OpenAI-Forscher und Geschäftsführer des AI Futures Project, sagte gegenüber Axios, er glaube nicht, dass KI sicher skaliert werden könne, und argumentierte, dass die Top-Unternehmen ihre enormen Rechenressourcen nicht auf die Modellverbesserung konzentrieren sollten.cnbc+2

"Die Unternehmen befinden sich in einem kontinuierlichen Prozess von widersprüchlichen Gefühlen und internen Diskussionen darüber, was sie eigentlich tun", sagte Kokotajlo. "Sollten wir aufhören? Sind wir die Guten?"axios