OpenAI legger til usynlige vannmerker i ChatGPT-tekst i EU

OpenAI opplyste mandag 5. oktober at de i løpet av de kommende ukene vil begynne å legge inn et usynlig vannmerke i kvalifisert ChatGPT- og Codex-tekst produsert i EU. Selskapet uttaler at tiltaket er ment for å møte kravene i EUs AI-forordning om at AI-generert innhold skal ha maskinlesbare merker. Teknologien har fått navnet textGrain. Dette er første gang OpenAI ruller ut et vannmerke for tekst i stor skala, etter å ha utviklet en løsning i 2024 som de valgte å ikke lansere.citybiz+2

Slik fungerer textGrain

I et blogginnlegg skriver OpenAI at textGrain legger til et usynlig statistisk signal i modellens ordvalg. Lesere vil ikke se noen merking. I stedet sjekker en detektor om en tekstpassasje følger mønsteret som er satt av en hemmelig nøkkel. EU-vannmerket vil gjelde for ChatGPT-brukere på alle abonnementer. Fra samme dag kan API-kunder over hele verden velge å aktivere funksjonen for utvalgte modeller, selv om den forblir deaktivert som standard.openai+2

Selskapet uttalte at de ikke gjør vannmerking av tekst til en global standard ved lansering. Tilgang til detektoren vil i starten være begrenset til godkjente forskere og ekspertorganisasjoner, som nå kan søke om tilgang. OpenAI opplyser også at de planlegger å slippe textGrain som åpen kildekode.cellcog+1

Begrensninger OpenAI anerkjenner

OpenAI advarte om at deteksjonen kan ta feil, og at redigering eller oversettelse av tekst kan svekke signalet. I selskapets egne tester, som oppsummert i en analyse, førte utskifting av 10 prosent av ordene i en passasje på 400 tokens til synonymer til at deteksjonsraten falt fra omtrent 92 prosent til 66 prosent. Utskifting av 25 prosent reduserte den til 17 prosent. OpenAI understreket også at et vannmerke ikke identifiserer en bruker, avslører ledetekster, verifiserer nøyaktighet eller etablerer eierskap, og at et manglende vannmerke ikke beviser at et menneske har skrevet teksten.citybiz+1

Kritikere har lenge hevdet at vannmerker i tekst er enkle å fjerne. Programvareingeniør Sean Goedecke skrev i juli at vannmerker i AI-tekst alltid vil være trivielle å fjerne.seangoedecke

Regulatoriske tidsfrister

AI-forordningens artikkel 50 har vært gjeldende siden 2. august 2026. Den krever at tilbydere av generativ AI merker syntetisk innhold, inkludert tekst, slik at det kan oppdages som kunstig generert. Systemer som allerede var på markedet før denne datoen, har frist til 2. desember 2026 med å etterleve kravene. Dette vinduet ble gitt under EUs Digital Omnibus-pakke, og det europeiske AI-styret valgte ikke å forlenge fristen under møtet 17. september.cloudsecurityalliance

Selskaper som har signert kommisjonens praksiskode for åpenhet, har også forpliktet seg til å tilby en interoperabel måte å oppdage vannmerker på innen 2. februar 2027. Google vannmerker allerede tekst gjennom sitt SynthID-verktøy, som OpenAI hevder at textGrain matchet eller overgikk i interne tester.cellcog+2