KI-Labore im Wettlauf gegen die Entwicklung biologischer Waffen

Große Unternehmen für künstliche Intelligenz verstärken ihre Bemühungen, den Einsatz ihrer fortschrittlichsten Modelle für die Entwicklung neuartiger Viren oder biologischer Waffen zu verhindern, da Führungskräfte und Experten für Biosicherheit warnen, dass ein einziger Fehler katastrophale Folgen haben könnte.

OpenAI, Anthropic und Google DeepMind Alphabet Inc. ↗ 0.84% weiten ihre Tests auf biologische Risiken und ihre Zugangskontrollen aus, da ihre Modelle in wissenschaftlichen Bereichen immer leistungsfähiger werden, berichtete die Financial Times am Dienstag. Die Sorge gilt nicht, dass aktuelle öffentliche Chatbots auf Abruf biologische Waffen produzieren können, sondern dass wissenschaftliche Modelle der nächsten Generation die Hürde für Personen mit schädlichen Absichten senken könnten.techbooky+1

Ein Modell, das zu leistungsfähig für den offenen Zugang ist

Das Problem hat bereits zu konkreten Produktentscheidungen geführt. Anthropics Claude Fable 5, das im Juni veröffentlicht wurde, bot laut internen Tests einem potenziellen Hersteller biologischer Waffen "erhebliche Vorteile" – Fähigkeiten, "die sie nirgendwo anders finden konnten", so das Unternehmen. Als Reaktion darauf baute Anthropic ein Klassifizierungssystem, das sensible biologische Anfragen von Fable 5 auf Opus 5 umleitet, ein älteres und weniger leistungsfähiges Modell.thenextweb+1

Bei der Einführung waren die Sicherheitsvorkehrungen so aggressiv, dass sie fast alle biologierelevanten Fragen blockierten, was auf breite Kritik stieß. Im August überarbeitete Anthropic seine Klassifizierungsregeln mit Experteninput, wodurch biologierelevante Fehlalarme um etwa 85 Prozent reduziert wurden. Bereiche mit doppeltem Verwendungszweck, darunter Virologie, Toxikologie und molekulares Design, bleiben jedoch eingeschränkt, wobei Fable 5 für diese Anfragen weiterhin auf Opus 5 zurückgreift.anthropic+2

Das leistungsfähigste Modell des Unternehmens, Mythos 5, ist nur für geprüfte Partner über das Programm Project Glasswing verfügbar, das den Zugang auf zugelassene Cybersicherheitsteams, regierungsnahe Organisationen und Forschungseinrichtungen beschränkt.coursiv

Branchenweite Forderung nach Sicherheitsvorkehrungen

Die verschärften Kontrollen folgen auf eine breitere Mobilisierung der Branche. Im Juni unterzeichneten die CEOs von Anthropic, OpenAI und Microsoft ↘ 0.24% AI einen gemeinsamen Brief, in dem sie den Kongress aufforderten, die Überprüfung von Bestellungen für synthetische DNA und RNA vorzuschreiben, die mit KI-Unterstützung zur Herstellung biologischer Waffen genutzt werden könnten. Ein Branchenbericht zur Sicherheit aus dem Jahr 2026 ergab, dass mehrere führende KI-Labore Einschränkungen hinzugefügt hatten, nachdem sie nicht ausschließen konnten, dass ihre Modelle Laien bei der Entwicklung chemischer oder biologischer Waffen helfen könnten.fortune+2

Die RAND Corporation skizzierte im August eine mehrschichtige Verteidigungsstrategie und kam zu dem Schluss, dass keine einzelne Sicherheitsmaßnahme KI-gestützte biologische Angriffe verhindern kann, aber dass neun Interventionen zusammen das Risiko erheblich senken könnten. Die parteiübergreifende Kommission für Biosicherheit des Atlantic Council hat KI erstmals offiziell als technologische Priorität eingestuft.rand+1

Das Dilemma der doppelten Verwendung

Die Herausforderung für Regulierungsbehörden und Unternehmen besteht darin, dass Biologie von Natur aus einen doppelten Verwendungszweck hat. Dieselben KI-Systeme, die die Arzneimittelentwicklung und Proteinforschung beschleunigen, können auch gefährliches Wissen leichter zugänglich machen. Wie ein Experte für Biosicherheit der Financial Times sagte: "Es reicht ein einziger Fehler" – eine Warnung, die die Branche ernst zu nehmen scheint, auch wenn sie darum kämpft, Offenheit mit Sicherheit in Einklang zu bringen.ft+1