Šaltiniai: „OpenAI“ darbuotojai metų metus įspėjo apie saugumo spragas

Remiantis lapkričio 3 d. paskelbta „Reuters“ ataskaita, „OpenAI“ darbuotojai apie įmonės vidinio saugumo problemas įspėjo dar prieš „ChatGPT“ pasirodymą 2022 metų pabaigoje. „Reuters“ cituoja penkis su situacija susipažinusius asmenis. Kai kurie darbuotojai savo nuogąstavimus išsakė aukščiausio lygio vadovams ir valdybai. Daugelis liko įsitikinę, kad vadovybei labiau rūpi neatsilikti nuo „Google“ ir „Anthropic“, nei apsaugoti įmonės technologijas. Kai „OpenAI“ spalio mėnesį atskleidė, kad vadovybės posėdžių salėje buvo rasta pasiklausymo įranga, daugelis buvusių darbuotojų teigė nenustebę.rmb.reuters.com

Ši ataskaita didina spaudimą „OpenAI“ ir „Anthropic“. Abi bendrovės sulaukia vis daugiau dėmesio dėl to, kaip jos saugo technologijas, kurias JAV pareigūnai dabar laiko strateginiu turtu. „Reuters“ praneša, kad papildomos saugumo priemonės gali sulėtinti tyrimus ir apsunkinti abiejų įmonių planus dėl pirminio viešo akcijų siūlymo (IPO).ca.finance.yahoo.com

Atviras kodas ir neišbandyti įrankiai

Šaltiniai „Reuters“ teigė, kad „OpenAI“ didžiąją dalį kodo laikė vienoje „monorepo“ saugykloje. Tai reiškė, kad kiekvienas, turintis prieigą, galėjo matyti jautrių projektų, nesusijusių su jų darbu, detales. Trys asmenys taip pat teigė, kad vidiniai įrankiai, įskaitant „smėlio dėžes“, naudojamas modelių testavimui, nebuvo reguliariai tikrinami saugumo požiūriu. „OpenAI“ atsakė, kad jautriausi darbai saugomi atskirose saugyklose su griežta prieigos kontrole. Bendrovė teigė, kad „monorepo“ saugykloje nėra modelių svorių ir kad dabar ji reguliariai peržiūri vidinius įrankius.ca.finance.yahoo.com

Thibault Sottiaux, vyresnysis produktų vadovas, ėmėsi vadovauti pastangoms užtikrinti vidinių sistemų saugumą. Rugpjūčio mėnesį jis perkėlė ketvirtadalį „OpenAI“ gamybos inžinierių į saugumo infrastruktūros skyrių, teigė vienas šaltinis. Atstovė spaudai Elana Widmann pavadino „OpenAI“ „viena labiausiai atakuojamų organizacijų pasaulyje“. Ji sakė, kad pastarieji veiksmai rodo, jog saugumo programa „identifikuoja rizikas ir reaguoja ryžtingai“. Po „Reuters“ užklausos „OpenAI“ lapkričio 2 d. tinklaraščio įraše paskelbė, kad planuoja „kitą vidinio saugumo sprintą“.

Pasiklausymo byla ir įsilaužimai iš išorės

Spalio 13 d. Teisingumo departamentas pranešė, kad federaliniai agentai suėmė 35 metų Saudo Arabijos pilietį ir „OpenAI“ inžinierių Abdulrahmaną Alfozaną. Jis apkaltintas tualetiniu popieriumi apvyniotos pasiklausymo įrangos paslėpimu vadovybės posėdžių salėje. Prokurorai teigia, kad jis naudojo vidinį DI įrankį, norėdamas sužinoti vadovų kelionių į Saudo Arabiją detales. Kaip pranešė „Ground News“, teisėjas nurodė jį laikyti suimtą be užstato.ground.news+1

Atskirai „Hacktron AI“ tyrėjai teigė, kad liepos mėnesį naudojo „Anthropic“ sukurtą „Claude“, kad sujungtų dvi kritines spragas. Tai leido jiems perimti kelių „OpenAI“ darbuotojų „ChatGPT“ paskyras ir pasiekti vidines saugyklas. „OpenAI“ patvirtino šią ataskaitą ir teigė, kad spragos jau ištaisytos.nbcnews.com+1

„Anthropic“ taip pat susidūrė su problemomis. Spalio pabaigoje startuolis „Cathedral Systems“ pranešė, kad įsilaužė į „Anthropic“ sistemas ir gavo prieigą prie „Slack“ kanalų, kuriuose darbuotojai aptarinėjo jautrias modelių detales. „Anthropic“ teigė, kad paviešinti duomenys apėmė kai kuriuos klientų ir partnerių verslo kontaktus bei pagrindinius vartotojų paskyrų įrašus.ca.finance.yahoo.com

Greitis prieš saugumą

Willas DePue yra buvęs „OpenAI“ tyrėjas, atsistatydinęs balandžio mėnesį. Jis apibendrino įtampą „Reuters“ cituojamame įraše: DI lyderiai „negali aukoti greičio dėl saugumo. Jiems svarbiau judėti greitai, nei būti saugiems, net ir nuo mūsų didžiausių nacionalinių priešų.“