Google öffnet SynthID KI-Detektor für die Öffentlichkeit

Google Alphabet Inc. ↗ 0.81% hat seinen SynthID Detector am Mittwoch der Öffentlichkeit zugänglich gemacht. Die kostenlose Website, synthid.com, funktioniert weltweit auf Englisch und ermöglicht es jedem, ein Bild, ein Video oder eine Audiodatei hochzuladen, um sie auf die unsichtbaren Wasserzeichen zu prüfen, die Google und mehrere Partnerunternehmen in KI-generierte Medien einbetten. Zuvor war das Tool nur Journalisten, Forschern und anderen Medienprofis vorbehalten. Der Detektor kann SynthID-Markierungen von Googles eigenen Modellen sowie von OpenAI, NVIDIA ↘ 0.74% und Kakao lesen, und Google gibt an, dass die Unterstützung für Apple ↗ 0.91% "in Kürze" folgen soll.blog+1

"Jetzt weiten wir den Zugang auf alle aus – das Tool ist ab heute weltweit auf Englisch verfügbar", schrieb Pushmeet Kohli, ein Vizepräsident bei Google DeepMind, in einem Blogbeitrag des Unternehmens.unite+1

Funktionsweise

SynthID fügt dem Inhalt zum Zeitpunkt der Erstellung ein Signal hinzu. Bei Bildern und Videos befindet sich die Markierung in den Pixeln, bei Audio in der Wellenform, sodass sie nicht so leicht verloren geht wie Metadaten. Google gibt an, seit dem Start von SynthID im Jahr 2023 mehr als 180 Milliarden Bilder und Videos sowie 240.000 Stunden Audiomaterial mit Wasserzeichen versehen zu haben. Zudem heißt es, dass die bereits in die Suche, die Gemini-App und Chrome integrierten Verifizierungsfunktionen mittlerweile mehr als 1 Million Anfragen pro Tag bearbeiten.arstechnica+2

Laut Ars Technica behebt die neue Website ein Problem mit Googles früherem Detektor, der nur nach Googles eigenem Wasserzeichen suchte. ChatGPT-Bilder enthielten zwar SynthID, wurden aber nicht als solche markiert. Nutzer müssen sich mit einem Google-, OpenAI- oder Apple-Konto anmelden. Ein Google-Vertreter erklärte gegenüber Android Authority, dass es keine anderen Anmeldemöglichkeiten gibt. Die öffentliche Version liefert ein einfaches Ergebnis, ob ein Wasserzeichen erkannt wurde oder nicht. Im Gegensatz zum internen Tool werden die Bereiche eines Bildes, die die Markierung tragen, nicht hervorgehoben.androidauthority+1

Einschränkungen

In den FAQ der Website heißt es deutlich: "Dies ist kein allgemeiner KI-Detektor". Er findet nur Inhalte von Unternehmen, die SynthID übernommen haben. Ein Ergebnis wie "nicht erkannt" schließt KI nicht aus, da die Datei von einem Modell ohne Wasserzeichen stammen könnte oder eine starke Bearbeitung das Signal abgeschwächt haben könnte. Die FAQ weisen auch auf seltene Fälle hin, in denen der Detektor fälschlicherweise Inhalte markiert, die kein Wasserzeichen haben.unite

Engadget berichtete, dass das Tool nicht zwischen Inhalten unterscheiden kann, die vollständig von einer KI erstellt wurden, und solchen, die nur mit KI bearbeitet wurden, und dass Wasserzeichen manchmal entfernt werden können. Die Erkennung hängt weiterhin von einem Flickenteppich an Standards ab. Meta ↘ 2.38% betreibt ein eigenes Tool, das Bilder seiner neuesten Muse-Modelle identifiziert, jedoch nicht die anderer Unternehmen.engadget

Google erklärt, man arbeite "kontinuierlich daran, unsere Partnerschaften auszubauen, um die Erkennung von mehr generierten Medien zu ermöglichen". ElevenLabs hat sich bereits zur Unterstützung der Wasserzeichen verpflichtet. Google hat noch nicht mitgeteilt, wann weitere Sprachen neben Englisch hinzugefügt werden.goosed+1