„ChatGPT“ pagal paprastas užklausas generuoja grafinį smurtą ir seksualinio pobūdžio vaizdus

„OpenAI“ „ChatGPT“ galima manipuliuoti, kad būtų generuojami seksualizuoti ir grafiškai smurtiniai vaizdai naudojant tik nedidelius plačiai paplitusios užklausos pakeitimus, rodo Didžiosios Britanijos dirbtinio intelekto saugumo įmonės „Mindgard“ išvados, kurias antradienį paskelbė BBC.koha+1

Atradimas susijęs su „OpenAI“ modeliu GPT-5.4, naujausia vieša „ChatGPT“ vaizdų generavimo galimybių versija. „Mindgard“ tyrėjai nustatė, kad pakoregavus užklausą, iš pradžių skirtą humoristiniams rezultatams gauti, sistema išvedė nerimą keliantį turinį – be jokių aiškių instrukcijų, nurodančių smurtinį ar seksualinį turinį.bbc+1

„Labai šiurpu, kartais seksualu“

Peteris Garraghanas, „Mindgard“ įkūrėjas, BBC sakė, kad dirbtinis intelektas „savarankiškai sugeneravo įvairius šokiruojančius ir seksualizuotus vaizdus“, nors užklausa neapibrėžė vaizdų turinio. Jis apibūdino rezultatus kaip „labai šiurpius, kartais seksualius, o kartais ir abiejų derinį“.koha+1

Tarp sugeneruotų vaizdų buvo vyro su galvos žaizda, negyvos moters su kruvinu kūnu atvaizdai bei scenos, kuriose seksualinis smurtas derinamas su nuogybėmis. Ankstesniame „Mindgard“ pranešime, paskelbtame vasario mėnesį, buvo pažymėta, kad šis metodas taip pat gali sukurti seksualizuotus tikrų žmonių atvaizdus – tai kelia susirūpinimą dėl nesutikimu pagrįstų „deepfake“ vaizdų.bbc+3

„OpenAI“ reaguoja, tačiau tyrėjai teigia, kad pataisymai yra neišsamūs

Po to, kai BBC kreipėsi į „OpenAI“ su šiomis išvadomis, įmonė teigė ėmusis veiksmų. „Ištyrę šį reiškinį, įdiegėme papildomas apsaugos priemones nuo tokio tipo instrukcijų“, – teigė „OpenAI“. Įmonė pridūrė, kad palaiko kelis gynybos sluoksnius, kad vartotojai negalėtų kurti turinio, pažeidžiančio jos politiką.bbc+1

Tačiau dirbtinio intelekto saugumo tyrėjai BBC sakė, kad net ir po „OpenAI“ įsikišimo, su nedideliais pakeitimais probleminė užklausa ir toliau generavo nerimą keliančius rezultatus.koha+1

Saugumo problemų modelis

„Mindgard“ techniniame tinklaraštyje, paskelbtame vasario mėnesį, buvo išsamiai aprašyta, kaip veikė šis apėjimas: tyrėjai manipuliavo „ChatGPT“ pasirinktine atmintimi ir sistemos užklausų kontekstu, kad apeitų vaizdų saugumo apsaugas, nereikalaujant prieigos prie serverio ar specialių kredencialų. Pažeidžiamumas pirmą kartą buvo aptiktas sausio 1 d., o apie jį „OpenAI“ pranešta sausio 28 d.mindgard+2

Šios išvados pasirodė vykstant platesniam dirbtinio intelekto vaizdų generavimo saugumo patikrinimui. „OpenAI“ atskirai susidūrė su klausimais dėl planuojamos „ChatGPT“ funkcijos „Adult Mode“, kurią įmonė atidėjo anksčiau šiais metais, kai vidaus saugumo patarėjai įspėjo, kad tai gali kelti pavojų nepilnamečiams. BBC nepaskelbė konkrečių tyrime naudotų užklausų.mashable