Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]

openai.com.openai.com.techcrunch.com.OpenAI släppte måndagen den 16 november en gratis bildklassificerare som upptäcker material föreställande sexuella övergrepp mot barn (CSAM), inklusive AI-genererat innehåll. De har även infört varningar i ChatGPT som stänger av åtkomsten i 24 timmar om någon försöker få fram övergreppsmaterial. Företaget uppger att åtgärderna bygger på deras Child Safety Blueprint. Paketet innehåller även vägledning för utvecklare och nya AI-verktyg för utredare inom polisen.openai.com
OpenAI har tränat och utvärderat klassificeraren med hjälp av National Center for Missing and Exploited Children (NCMEC), den ideella organisation som driver CyberTipline. Företaget kallar det den första brett tillgängliga CSAM-klassificeraren med en specifik signal för om material kan vara AI-genererat. Verktyget letar efter visuella tecken på övergrepp i bilder som inte setts tidigare. Det ger varje bild en poäng så att granskare kan prioritera vad som ska kontrolleras först. Godkända organisationer kan använda verktyget kostnadsfritt via OpenAI API.openai.com
I ett internt test på användaruppladdade bilder uppskattade OpenAI att den nya klassificeraren skulle flagga 48 % färre bilder än deras nuvarande verktyg, samtidigt som den hittade ungefär lika många övergreppsbilder. Bilder som flaggades hade dubbelt så hög sannolikhet att innehålla övergrepp. Tidiga partners delade med sig av egna resultat. Hos fal bekräftade granskare 72 % av klassificerarens flaggningar med hög konfidens som nytt CSAM. SafetyKit fann att den fångade upp 90 % av teckningar eller animationer som sexualiserar barn. OpenAI uppger att de samarbetar med Tech Coalition och ROOST för att dela åtkomst med andra.techcrunch.com+1
Fram till nu har OpenAI förlitat sig på hash-matchning och Thorns CSAM-klassificerare för att skanna uppladdningar. Under första halvåret 2026 skickade de 126 597 CyberTipline-rapporter till NCMEC.openai.com+1
ChatGPT kommer nu att ingripa när någon försöker hitta övergreppsmaterial. Användaren får en varning om att sexualisering av barn orsakar skada, även när materialet är AI-genererat. OpenAI kommer därefter att radera konversationen och pausa ChatGPT-åtkomsten i 24 timmar, samtidigt som användaren hänvisas till professionell hjälp. Upprepade överträdelser kan leda till strängare restriktioner, kontostängning eller rapportering till myndigheter. Tillvägagångssättet har utformats tillsammans med Protect Children, Lucy Faithfull Foundation och forskare som utvärderat ett testprojekt med avskräckande meddelanden.openai.com
OpenAI har även publicerat CSAM-vägledning för utvecklare, skriven med input från Thorn, NCMEC och Internet Watch Foundation. För polisenheter som arbetar med barnsäkerhet lägger företaget till plugins, utredningsverktyg och utbildning. Det första verktyget hjälper utredare att gå igenom långa chattloggar och juridiska dokument, identifiera möjliga samband och bygga tidslinjer.developers.openai.com
Lanseringen kommer samtidigt som AI-företag möter ökad granskning gällande barnsäkerhet. TechCrunch noterade att OpenAI står inför flera stämningar som anklagar deras teknik för att skada användare, särskilt barn. Det noterades även att andra chatbotar, inklusive Grok, har använts för att skapa icke-samtyckesbaserat sexualiserat material, där en del involverar barn.techcrunch.com