OpenAI bætir ósýnilegum vatnsmerkjum við ChatGPT texta í ESB

OpenAI tilkynnti á mánudaginn, 5. október, að fyrirtækið muni hefja innleiðingu ósýnilegra vatnsmerkja í viðeigandi ChatGPT og Codex texta sem framleiddur er innan Evrópusambandsins á næstu vikum. Fyrirtækið segir aðgerðina ætlaða til að mæta kröfum AI-laga ESB um að efni framleitt af gervigreind beri vélrænt læsileg merki. Tæknin heitir textGrain. Þetta er í fyrsta sinn sem OpenAI dreifir textavatnsmerki í stórum stíl, eftir að hafa þróað eitt slíkt árið 2024 og valið að gefa það ekki út.citybiz+2

Hvernig textGrain virkar

Í bloggfærslu skrifaði OpenAI að textGrain "bæti ósýnilegu tölfræðilegu merki við orðaval líkansins". Lesendur sjá engan merkimiða. Í staðinn athugar greiningartæki hvort texti fylgi mynstri sem sett er af leynilykli. ESB-vatnsmerkið mun gilda fyrir ChatGPT notendur í öllum áskriftarleiðum. Frá og með sama degi geta API-viðskiptavinir hvar sem er í heiminum valið að virkja þetta fyrir valin líkön, þó að eiginleikinn sé óvirkur sjálfgefið.openai+2

Fyrirtækið sagði að það væri "ekki að gera textavatnsmerki að alþjóðlegum sjálfgefnum staðli við útgáfu", samkvæmt útdrætti úr tilkynningunni. Aðgangur að greiningartækinu verður í fyrstu takmarkaður við viðurkennda rannsakendur og sérfræðistofnanir, sem geta nú sótt um. OpenAI segist einnig ætla að gefa textGrain út sem opinn hugbúnað.cellcog+1

Takmarkanir sem OpenAI viðurkennir

OpenAI varaði við því að greining geti verið röng og að breytingar eða þýðingar á texta geti veikt merkið. Í eigin prófunum fyrirtækisins, eins og fram kemur í einni greiningu, minnkaði greiningarhlutfallið úr um 92% í 66% ef skipt var út 10% orða í 400 orða texta fyrir samheiti. Ef skipt var út 25% minnkaði það í 17%. OpenAI sagði einnig að vatnsmerki auðkenni ekki notanda, afhjúpi ekki leiðbeiningar, staðfesti ekki nákvæmni eða staðfesti eignarhald, og að vantar vatnsmerki sanni ekki að manneskja hafi skrifað textann.citybiz+1

Gagnrýnendur hafa lengi haldið því fram að auðvelt sé að fjarlægja textavatnsmerki. Hugbúnaðarverkfræðingurinn Sean Goedecke skrifaði í júlí að vatnsmerki fyrir gervigreindartexta "verði alltaf auðveld í fjarlægingu".seangoedecke

Eftirlitsklukkan

50. grein AI-laganna hefur verið í gildi síðan 2. ágúst 2026. Hún krefst þess að veitendur gervigreindar merki gerviefni, þar á meðal texta, svo hægt sé að greina það sem gerviframleitt. Kerfi sem voru þegar á markaði fyrir þá dagsetningu hafa frest til 2. desember 2026 til að uppfylla kröfurnar. Sá frestur var veittur samkvæmt Digital Omnibus pakka ESB og evrópska gervigreindarráðið framlengdi hann ekki á fundi sínum 17. september.cloudsecurityalliance

Fyrirtæki sem undirrituðu gagnsæisreglur framkvæmdastjórnarinnar hafa einnig skuldbundið sig til að bjóða upp á samvirka leið til að greina vatnsmerki fyrir 2. febrúar 2027. Google vatnsmerkir nú þegar texta með SynthID tólinu sínu, sem OpenAI segir að textGrain hafi jafnast á við eða skarað fram úr í innri prófunum.cellcog+2