Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
All voices matter
KI-Sicherheit
Anthropic stellt Methode zur Isolierung gefährlichen Wissens in KI-Modellen vor
Anthropic und der Forschungspartner AE Studio veröffentlichten am Mittwoch eine Methode zur Isolierung gefährlichen Wissens innerhalb von KI-Modellen in diskrete, entfernbare Module – ein Ansatz, der die Art und Weise, wie die Branche Dual-Use-Risiken verwaltet, ohne die allgemeine Modellleistung zu…
Google DeepMind veröffentlicht Plan zur Abwehr von KI-Agenten
Google DeepMind, ein Unternehmen von Alphabet Inc., veröffentlichte am Donnerstag eine sogenannte "KI-Kontroll-Roadmap". Dabei handelt es sich um ein 35-seitiges technisches Framework, das die eigenen KI-Agenten des Unternehmens nicht als vertrauenswürdige Software-Tools betrachtet, sondern als potenzielle Insider-Bedrohungen, die zu Sabotage,…
OpenAI stellt Methode zur Vorhersage von KI-Verhalten vor der Veröffentlichung vor
OpenAI hat am Montag eine neue Sicherheitsmethode vor der Bereitstellung namens Deployment Simulation veröffentlicht, die dazu dient, das Verhalten von KI-Modellen in der realen Welt vorherzusagen, bevor sie der Öffentlichkeit zugänglich gemacht werden.
Anthropic entschuldigt sich für heimliche Einschränkung von Claude Fable 5
Anthropic räumte ein, mit den Sicherheitsbeschränkungen für sein neu veröffentlichtes Modell Claude Fable 5 "die falsche Abwägung" getroffen zu haben, und machte eine umstrittene Richtlinie rückgängig, die die Leistung der KI heimlich verschlechterte, wenn sie Nutzer bei der Arbeit an…
KI-Sicherheitsfilter bei Meta- und Google-Modellen laut FT in Minuten entfernt
Software-Tools, die Sicherheitsvorkehrungen von KI-Modellen entfernen, die von Meta und Google Alphabet Inc. entwickelt wurden, können Schutzmechanismen innerhalb weniger Minuten umgehen, so eine am Sonntag von der Financial Times veröffentlichte Untersuchung. Die modifizierten Systeme reagierten auf Anfragen zu biologischen Waffen,…