OpenAI:n työntekijät varoittivat tietoturvapuutteista vuosia

Reutersin 3. marraskuuta julkaiseman raportin mukaan OpenAI:n työntekijät ovat nostaneet esiin huolia yhtiön sisäisestä tietoturvasta jo ennen ChatGPT:n julkaisua loppuvuodesta 2022. Reutersin lähteenä oli viisi asiaa tuntevaa henkilöä. Osa työntekijöistä vei huolensa ylimmälle johdolle ja hallitukselle. Useat heistä vakuuttuivat, että johto välitti enemmän kilpailussa pysymisestä Googlea ja Anthropicia vastaan kuin yhtiön teknologian suojaamisesta. Kun OpenAI paljasti lokakuussa löytäneensä tallennuslaitteen johtoryhmän kokoushuoneesta, monet entiset työntekijät kertoivat, etteivät he olleet yllättyneitä.rmb.reuters.com

Raportti lisää painetta OpenAI:lle ja Anthropicille. Molemmat yhtiöt ovat kasvavan tarkastelun alla sen suhteen, kuinka hyvin ne suojaavat teknologiaa, jota Yhdysvaltain viranomaiset pitävät nykyään strategisena voimavarana. Reutersin mukaan ylimääräiset turvatoimet voisivat hidastaa tutkimusta ja vaikeuttaa molempien yhtiöiden suunnitelmia listautua pörssiin.ca.finance.yahoo.com

Avoin koodi ja testaamattomat työkalut

Lähteet kertoivat Reutersille, että OpenAI säilytti suurimman osan koodistaan yhdessä monorepositoriossa. Tämä tarkoitti, että kuka tahansa pääsyllinen pystyi näkemään yksityiskohtia arkaluonteisista projekteista, jotka eivät liittyneet heidän omaan työhönsä. Kolme henkilöä kertoi myös, ettei sisäisille työkaluille, mukaan lukien mallien stressitestaukseen käytetyille hiekkalaatikoille, tehty säännöllisiä tietoturvatarkastuksia. OpenAI vastasi, että sen arkaluonteisin työ sijaitsee erillisissä arkistoissa, joissa on tiukat pääsynvalvonnat. Yhtiö totesi, ettei monorepositorio sisällä mallien painoarvoja ja että se tarkastaa nykyään sisäiset työkalut säännöllisesti.ca.finance.yahoo.com

Tuotekehityksen johtaja Thibault Sottiaux on ottanut vastuun sisäisten järjestelmien suojaamisesta. Elokuussa hän siirsi neljänneksen OpenAI:n tuotantoinsinööreistä tietoturvainfrastruktuurin pariin, yksi lähde kertoi. Tiedottaja Elana Widmann kutsui OpenAI:ta yhdeksi maailman kohdatuimmista organisaatioista. Hän sanoi tuoreiden toimien osoittavan, että yhtiön tietoturvaohjelma tunnistaa riskejä ja reagoi niihin päättäväisesti. Reutersin yhteydenoton jälkeen OpenAI ilmoitti 2. marraskuuta blogikirjoituksessaan suunnittelevansa seuraavaa sisäistä tietoturvasprinttiään.

Salakuuntelutapaus ja ulkopuoliset murrot

Oikeusministeriö ilmoitti 13. lokakuuta, että liittovaltion agentit olivat pidättäneet 35-vuotiaan Saudi-Arabian kansalaisen ja OpenAI:n insinöörin Abdulrahman Alfozanin. Häntä syytetään vessapaperiin käärityn äänitallennuslaitteen piilottamisesta johtoryhmän kokoushuoneeseen. Syyttäjien mukaan hän käytti sisäistä tekoälytyökalua selvittääkseen johtajien matkoja Saudi-Arabiaan. Tuomari on sittemmin määrännyt hänet pidettäväksi vangittuna ilman takuita, Ground News raportoi.ground.news+1

Erillisesti Hacktron AI:n tutkijat kertoivat käyttäneensä Anthropicin Claudea heinäkuussa ketjuttaakseen kaksi kriittistä haavoittuvuutta. Tämä antoi heille mahdollisuuden ottaa haltuun useiden OpenAI:n työntekijöiden ChatGPT-tilejä ja päästä käsiksi sisäisiin arkistoihin. OpenAI vahvisti raportin ja kertoi haavoittuvuuksien olevan korjattuja.nbcnews.com+1

Anthropicilla on ollut omia ongelmiaan. Lokakuun lopulla Cathedral Systems -niminen startup kertoi murtautuneensa Anthropicin järjestelmiin ja saaneensa pääsyn Slack-kanaville, joissa henkilökunta keskusteli arkaluonteisista mallien yksityiskohdista. Anthropic kertoi, että paljastunut tieto sisälsi joitakin asiakkaiden ja kumppanien yhteystietoja sekä perustason käyttäjätilitietoja.ca.finance.yahoo.com

Nopeus vastaan tietoturva

Will DePue on entinen OpenAI:n tutkija, joka erosi huhtikuussa. Hän tiivisti jännitteen Reutersin lainaamassa kirjoituksessa: tekoälyjohtajat eivät voi uhrata nopeutta tietoturvan vuoksi. Heille on tärkeämpää edetä nopeasti kuin olla turvassa, jopa suurimmilta kansallisilta vastustajiltamme.