OpenAI hat am Montag, den 16. November, einen kostenlosen Bildklassifizierer veröffentlicht, der Material über sexuellen Missbrauch von Kindern (CSAM) erkennt, einschließlich KI-generierter Inhalte. Zudem wurden Warnungen in ChatGPT eingeführt, die den Zugriff für 24 Stunden unterbinden, wenn jemand versucht, Missbrauchsmaterial…
OpenAI hat am Montag einen kostenlosen Bildklassifizierer veröffentlicht, der in Zusammenarbeit mit NCMEC entwickelt wurde und als erstes breit verfügbares Tool zur Kennzeichnung von KI-generiertem CSAM giltopenai.com.
ChatGPT warnt nun Nutzer, die nach Missbrauchsmaterial suchen, löscht den Chat und sperrt den Zugriff für 24 Stunden; bei Wiederholungstätern drohen Sperren oder Meldungen an die Polizeiopenai.com.
Die Einführung erfolgt vor dem Hintergrund von Klagen gegen OpenAI wegen potenziell schädlicher Technologie, während Konkurrenzprodukte wie Grok für die Erstellung sexualisierter Bilder kritisiert wurden, berichtet TechCrunchtechcrunch.com.