Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]

openai.com.openai.com.techcrunch.com.OpenAI lanserte mandag 16. november en gratis bildeklassifiserer som oppdager materiale med seksuelle overgrep mot barn (CSAM), inkludert AI-generert innhold. De har også innført advarsler i ChatGPT som stenger tilgangen i 24 timer dersom noen forsøker å fremskaffe overgrepsmateriale. Selskapet opplyser at tiltakene bygger på deres Child Safety Blueprint. Pakken inneholder også veiledning for utviklere og nye AI-verktøy for etterforskere i politiet.openai.com
OpenAI har trent og evaluert klassifisereren med bistand fra National Center for Missing and Exploited Children (NCMEC), ideell organisasjon som driver CyberTipline. Selskapet kaller det den første bredt tilgjengelige CSAM-klassifisereren med et spesifikt signal for om materiale kan være AI-generert. Verktøyet leter etter visuelle tegn på overgrep i bilder som ikke er sett tidligere. Det gir hvert bilde en skåre slik at kontrollører kan prioritere hva som skal sjekkes først. Godkjente organisasjoner kan bruke verktøyet gratis via OpenAI API.openai.com
I en intern test på brukerlastede bilder anslo OpenAI at den nye klassifisereren ville flagge 48 % færre bilder enn deres nåværende verktøy, samtidig som den fant omtrent like mange overgrepsbilder. Bilder som ble flagget, hadde dobbelt så høy sannsynlighet for å inneholde overgrep. Tidlige partnere delte egne resultater. Hos fal bekreftet kontrollører 72 % av klassifisererens flagg med høy konfidens som nytt CSAM. SafetyKit fant at den fanget opp 90 % av tegninger eller animasjoner som seksualiserer barn. OpenAI opplyser at de samarbeider med Tech Coalition og ROOST for å dele tilgang med andre.techcrunch.com+1
Frem til nå har OpenAI basert seg på hash-matching og Thorns CSAM-klassifiserer for å skanne opplastinger. I første halvdel av 2026 sendte de 126 597 CyberTipline-rapporter til NCMEC.openai.com+1
ChatGPT vil nå gripe inn når noen forsøker å finne overgrepsmateriale. Brukeren vil få en advarsel om at seksualisering av barn forårsaker skade, selv når materialet er AI-generert. OpenAI vil deretter slette samtalen og pause ChatGPT-tilgangen i 24 timer, samtidig som brukeren henvises til profesjonell hjelp. Gjentatte brudd kan føre til strengere restriksjoner, stenging av konto eller rapportering til myndighetene. Tilnærmingen er utformet sammen med Protect Children, Lucy Faithfull Foundation og forskere som evaluerte et prøveprosjekt med avskrekkende meldinger.openai.com
OpenAI har også publisert CSAM-veiledning for utviklere, skrevet med innspill fra Thorn, NCMEC og Internet Watch Foundation. For politienheter som jobber med barnesikkerhet, legger selskapet til plugins, etterforskningsverktøy og opplæring. Det første verktøyet hjelper etterforskere med å gjennomgå lange chat-logger og juridiske dokumenter, identifisere mulige sammenhenger og bygge tidslinjer.developers.openai.com
Lanseringen kommer samtidig som AI-selskaper møter økende granskning knyttet til barnesikkerhet. TechCrunch bemerket at OpenAI står overfor flere søksmål som anklager teknologien deres for å skade brukere, spesielt barn. Det ble også bemerket at andre chatboter, inkludert Grok, har blitt brukt til å skape ikke-samtykkebasert seksualisert materiale, hvor noe av dette involverer barn.techcrunch.com