Anthropic stellt Methode zur Isolierung gefährlichen Wissens in KI-Modellen vor

Anthropic und der Forschungspartner AE Studio veröffentlichten am Mittwoch eine Methode zur Isolierung gefährlichen Wissens innerhalb von KI-Modellen in diskrete, entfernbare Module – ein Ansatz, der die Art und Weise, wie die Branche Dual-Use-Risiken verwaltet, ohne die allgemeine Modellleistung zu beeinträchtigen, verändern könnte.

Die Technik namens Gradient-Routed Auxiliary Modules (GRAM) fügt einem Sprachmodell während des Trainings kleine neuronale Hilfskompartimente hinzu, wobei jedes Kompartiment einer Kategorie sensiblen Wissens wie Virologie, Cybersicherheit oder Kernphysik gewidmet ist. Wenn ein Modul gelöscht wird, verhält sich das Modell so, als wäre es nie mit diesen Daten trainiert worden. Wenn ein Modul aktiviert wird, ist das Wissen vollständig verfügbar.x+1

Funktionsweise von GRAM

GRAM modifiziert die Standard-Transformer-Architektur, indem die Breite jeder MLP-Schicht um kleine Hilfsmodule erweitert wird – eines pro sensitivem Bereich. Während des Trainings, wenn das Modell auf Daten aus einer Dual-Use-Kategorie stößt, nimmt nur das entsprechende Modul neben den allgemeinen Gewichten des Modells am Lernprozess teil. Zur Inferenzzeit entfernt das Löschen eines Moduls die zugehörige Fähigkeit.alignment.anthropic

Die Forscher testeten GRAM an Modellen mit 50 Millionen bis 5 Milliarden Parametern und trainierten ein Modell mit 800 Millionen Parametern mit Webtexten, Code und wissenschaftlichen Arbeiten sowie vier Dual-Use-Bereichen: Virologie, Cybersicherheit, Kernphysik und spezialisierter Code. Die Dual-Use-Daten machten etwa 0,25 % der Trainingsdaten pro Bereich aus.alignment.anthropic

Die Ergebnisse zeigten, dass die Ablation von GRAM-Modulen die Fähigkeiten "fast so effektiv entfernte, als hätte man das Modell überhaupt nicht mit den Daten trainiert", so der Forschungsblog, während die allgemeine Leistung nahe am Basiswert aller Daten blieb. Der Ansatz erwies sich auch als robust gegenüber adversarialem Fine-Tuning – im Gegensatz zu nachträglichen Unlearning-Methoden, von denen die Forscher feststellten, dass sie Wissen lediglich unterdrücken, anstatt es wirklich zu entfernen.alignment.anthropic

Politischer Kontext

Die Forschung kommt zu einem schwierigen Zeitpunkt für die KI-Governance. Im Juni verhängte die Trump-Regierung vorübergehend Exportkontrollen für Anthropics fortschrittlichste Claude-Modelle, Fable 5 und Mythos 5, unter Berufung auf nationale Sicherheitsbedenken im Zusammenhang mit einer möglichen Jailbreak-Schwachstelle. Diese Beschränkungen wurden am 30. Juni aufgehoben, nachdem Anthropic mit dem Handelsministerium zusammengearbeitet hatte, um die Risiken anzugehen.arstechnica+2

GRAM bietet einen potenziellen Mittelweg in der politischen Debatte: Anstatt ganze Modelle einzuschränken oder sich auf verhaltensbezogene Leitplanken zu verlassen, die umgangen werden können, ermöglicht es eine granulare Zugriffskontrolle pro Fähigkeit. Ein geprüftes Biosicherheitslabor könnte ein Modell mit intaktem virologischem Wissen erhalten, während bei einem allgemeinen Einsatz dieses Modul vollständig entfernt wäre.alignment.anthropic

Offene Fragen

Die Forscher warnten, dass diese Arbeit "vorläufig ist und nicht auf Produktionsmodelle bei Anthropic angewendet wurde". Es bleiben wichtige Unsicherheiten darüber bestehen, ob die Technik auf Modelle in Grenzgröße skaliert und ob verflochtene Fähigkeiten – bei denen sich allgemeines biologisches Wissen mit gefährlichem virologischem Wissen überschneidet – eine saubere Trennung einschränken könnten. Die Arbeit wurde von Forschern bei AE Studio in Zusammenarbeit mit Cem Anil und Alex Cloud von Anthropic geleitet.alignment.anthropic