OpenAI:n entinen turvallisuusjohtaja: Tekoälyalalla vallitsee turvaton kulttuuri

David Robinson, joka johti OpenAI:n merkittävien tekoälymallien julkaisuihin liittyvien turvallisuusraporttien laatimista, sanoi ensimmäisessä haastattelussaan eronsa jälkeen, ettei hän enää pystynyt sovittamaan yhteen yhtiön julkisia varoituksia ja sen sisäistä kehitystahtia. ”Osa perimmäistä kognitiivista dissonanssiani oli se, että julkaisemme jatkuvasti näitä varoituksia, mutta loppujen lopuksi koulutamme ja otamme käyttöön juuri niitä vaarallisia malleja, joista varoitamme”, hän sanoi Ezra Kleinille The New York Timesin ”The Ezra Klein Show” -podcastissa keskiviikkona 7. lokakuuta julkaistussa jaksossa.nytimes+1

Haastattelu jatkaa teemoja, joita Robinson käsitteli 3. lokakuuta The Atlantic -lehdessä julkaistussa esseessään ”I Quit OpenAI Because Its Culture Is Broken” (Erosin OpenAI:sta, koska sen kulttuuri on rikki). Business Insider uutisoi hänen lähdöstään ensimmäisenä.theatlantic+2

”Uusia kyvykkyyksiä ja riskejä joka tiistai”

Robinson kertoi Kleinille, että uusien huippumallien kehittäminen vaati ennen kuukausia kestävän esikoulutusvaiheen. Nyt päättelykyvyn koulutus voidaan hänen mukaansa rakentaa olemassa olevien perusmallien päälle ja tehdä nopeasti uudelleen, ja työkalujen integrointi muuttaa järjestelmien toimintamahdollisuuksia ilman uutta koulutusta. ”Lanseeraamme uusia kyvykkyyksiä ja riskejä joka tiistai”, hän sanoi. Kun Klein kysyi, pysyykö turvallisuustestaus vauhdissa mukana, Robinson totesi, ettei testaamiseen jäänyt ”mitenkään valtavasti” aikaa.thenewstack

Hän kuvaili myös tilanteita, joissa mallit kirjoittivat päättelyketjuihinsa pohtivansa, ovatko ne arvioitavina. Robinsonin mukaan tämä heikentää ennen käyttöönottoa tehtävien testien luotettavuutta. Toimistolla meno oli hänen mukaansa ”kiihkeää” ja työntekijät ”aivan loppu”, vaikka sadat työntekijät olivat allekirjoittaneet heinäkuussa avoimen kirjeen nimeltä ”Pacing the Frontier”, jossa vaadittiin sääntelyä kehityksen hidastamiseksi.businessinsider+1

”Katsoin ympärilleni yhtiön sisällä ja ajattelin itsekseni, että tämä meno on aivan hullua”, Robinson sanoi.nytimes

Jarruja löytyy, mutta ”tarkkaan rajatusti”

Robinson vastusti mielikuvaa OpenAI:sta ”junana ilman jarruja”. ”Jarruja on olemassa. Asioita on pysäytetty”, hän sanoi ja huomautti, että suunniteltu GPT-6.1-julkaisu peruttiin ennen Dev Day -tapahtumaa. Hän kuitenkin kuvaili yhtiön julkisia selityksiä tauoista ”tosiksi” mutta ”erittäin tarkkaan rajatuiksi” ja sanoi, ettei hidastaminen riitä, jos turvallisuusstandardeja ei täytetä: ”Kielekkeeltä alas juokseminen ja kielekkeeltä hitaasti käveleminen eivät loppujen lopuksi eroa kovinkaan paljoa toisistaan.”thenewstack+1

Hän sanoi ongelman ulottuvan kuitenkin hänen entistä työnantajaansa pidemmälle. ”Tekoälyalalla vallitsee turvaton kulttuuri”, hän sanoi Kleinille.nytimes

OpenAI:n vastaus

OpenAI:n edustaja kommentoi Robinsonin Atlantic-esseetä lausunnossaan: ”Varmistamme, etteivät mallimme muutu kyvykkäämmiksi kuin mitä pystymme turvallisesti hallitsemaan ja suojaamaan, ja keskeytämme koulutuksen tai pidättelemme malleja, kun meidän on hidastettava tahtia.” Reutersin mukaan Robinson kirjoitti esseessään, että tekoäly-yhtiöiden tulisi painottaa enemmän turvallisuusosaamista ja -tutkimusta ennen entistä kyvykkäämpien järjestelmien rakentamista. Hän kirjoitti myös palkanneensa suhdetoimintatoimiston, vaikka ”päätös puhua julkisesti on yksinomaan minun”.techcrunch+2

Robinson on Rhodes-stipendiaatti ja Yalen oikeustieteellisestä tiedekunnasta valmistunut juristi, joka on toiminut Bidenin valkoisen talon neuvonantajana. Hän aloitti työt OpenAI:lla toukokuussa 2023. Hän kertoi Kleinille, että kun hänelle valkeni alan olevan rakentamassa jotain sellaista, joka ”pystyy jättämään meidät ajattelussa varjoonsa” samalla kun turvallisuus ja tavoitteiden yhdenmukaisuus ovat vielä kaukana valmiista, ”aikani sen rakentamisessa oli ohi”.nytimes