OpenAI inför osynliga vattenstämplar i ChatGPT-text inom EU

OpenAI meddelade måndagen den 5 oktober att de under de kommande veckorna börjar bädda in en osynlig vattenstämpel i kvalificerad ChatGPT- och Codex-text som produceras inom EU. Företaget uppger att åtgärden är avsedd att uppfylla kraven i EU:s AI-förordning om att AI-genererat innehåll ska bära maskinläsbara märkningar. Tekniken kallas textGrain. Det är första gången OpenAI lanserar en vattenstämpel för text i stor skala, efter att ha utvecklat en lösning under 2024 som de valde att inte släppa.citybiz+2

Så fungerar textGrain

I ett blogginlägg skriver OpenAI att textGrain lägger till en osynlig statistisk signal i modellens ordval. Läsare ser ingen etikett. Istället kontrollerar en detektor om en textpassage följer mönstret som satts av en hemlig nyckel. EU-vattenstämpeln kommer att gälla för ChatGPT-användare på alla abonnemang. Från och med samma dag kan API-kunder över hela världen välja att aktivera funktionen för utvalda modeller, även om den förblir inaktiverad som standard.openai+2

Företaget uppgav att de inte gör vattenmärkning av text till en global standard vid lanseringen. Tillgången till detektorn kommer initialt att begränsas till godkända forskare och expertorganisationer, som nu kan ansöka om tillgång. OpenAI meddelar även att de planerar att släppa textGrain som öppen källkod.cellcog+1

Begränsningar som OpenAI erkänner

OpenAI varnade för att detektionen kan vara felaktig och att redigering eller översättning av text kan försvaga signalen. I företagets egna tester, som sammanfattats i en analys, minskade detektionsgraden från cirka 92 procent till 66 procent när 10 procent av orden i en passage på 400 tokens byttes ut mot synonymer. När 25 procent byttes ut sjönk den till 17 procent. OpenAI betonade också att en vattenstämpel inte identifierar en användare, avslöjar prompter, verifierar korrekthet eller fastställer ägandeskap, och att en saknad vattenstämpel inte bevisar att en människa har skrivit texten.citybiz+1

Kritiker har länge hävdat att vattenstämplar i text är lätta att ta bort. Mjukvaruingenjören Sean Goedecke skrev i juli att vattenstämplar i AI-text alltid kommer att vara triviala att ta bort.seangoedecke

Den regulatoriska klockan

AI-förordningens artikel 50 har varit tillämplig sedan den 2 augusti 2026. Den kräver att leverantörer av generativ AI märker syntetiskt innehåll, inklusive text, så att det kan identifieras som artificiellt genererat. System som redan fanns på marknaden före det datumet har fram till den 2 december 2026 på sig att uppfylla kraven. Det tidsfönstret beviljades under EU:s Digital Omnibus-paket, och det europeiska AI-rådet valde att inte förlänga det vid sitt möte den 17 september.cloudsecurityalliance

Företag som har undertecknat kommissionens uppförandekod för transparens har också förbundit sig att erbjuda ett interoperabelt sätt att upptäcka vattenstämplar senast den 2 februari 2027. Google vattenstämplar redan text genom sitt SynthID-verktyg, vilket OpenAI hävdar att textGrain matchade eller överträffade i interna tester.cellcog+2