Kaksi Google DeepMindin tutkijaa irtisanoutui: tekoäly voi ”tappaa meidät kaikki”

Kaksi tekoälytutkijaa on irtisanoutunut Alphabet Inc. ↗ 0.78% -yhtiön Google DeepMindiltä muutaman päivän sisällä toisistaan. Molemmat varoittavat, että tekoälykehityksen vauhti vaarantaa ihmiskunnan katastrofaalisilla seurauksilla. Heidän lähtönsä lisäävät alan edistyneimpien laboratorioiden sisältä kuuluvaa kasvavaa huolta.

"Potentiaalia tappaa meidät kaikki"

DeepMindillä tekoälyturvallisuuden ja linjaamisen parissa työskennellyt Bilal Chughtai ilmoitti irtisanoutumisestaan maanantaina 14. syyskuuta X- ja LinkedIn-palveluissa. "Näin Googlella tekoälykehityksen ensikäden kokemuksena. Olen itsekin äärimmäisen huolissani tämän teknologian oletetusta kehityssuunnasta", hän kirjoitti. "Uskon vakissani, että tekoälyllä on potentiaalia tappaa meidät kaikki."businesstimes+1

Chughtai sanoi, että järjestelmät, joita hän kohtasi aloittaessaan alalla vuoden 2022 alussa, olivat huomattavasti vähemmän kyvykkäitä kuin nykyiset. Hänen mukaansa linjaamisen eli sen varmistamisen, että tekoälyjärjestelmät toimivat ihmisten aikomusten mukaisesti, edistyminen ei ole pysynyt kykyjen kasvun tahdissa. Hän kehotti tekoälyyhtiöitä hidastamaan kilpajuoksuaan ja sitoutumaan suurempaan läpinäkyvyyteen.freepressjournal

Hänen LinkedIn-profiilinsa mukaan hän on siirtynyt BlueDot Impactiin, joka on eri alojen ihmisten tekoälyturvallisuuskoulutukseen keskittyvä voittoa tavoittelematon järjestö.finance.yahoo

Toisaalla DeepMindin AGI-turvallisuustiimissä työskennellyt Josh Engels kertoi X-julkaisussaan 12. syyskuuta lähteneensä yhtiöstä kolme viikkoa aiemmin, vaikka oli nauttinut työstään ja hylännyt tarjoukset sekä Anthropicilta että OpenAI:lta. "Uskon nyt, että on olemassa pelottava mahdollisuus sille, että tekoälyjärjestelmät aiheuttavat valtaisaa haittaa seuraavan viiden vuoden aikana", Engels kirjoitti. Hän on siirtynyt METR-järjestöön, joka arvioi kehittyneimpien tekoälyjärjestelmien autonomisia kykyjä ja katastrofaalisia riskejä.ndtv+1

Rekursiivinen itsekehitys keskiössä

Molemman tutkijan jakama keskeinen huoli on rekursiivinen itsekehitys, eli prosessi, jossa tekoälyjärjestelmät osallistuvat yhä kyvykkäämpien seuraajien rakentamiseen. Engels varoitti, että tutkijat eivät vielä tiedä, miten varmistaa tällaisten järjestelmien pysyminen linjassa ihmisten tavoitteiden kanssa niiden kykyjen kasvaessa, ja että linjaamaton itsekehityssilmukka "voisi olla katastrofaalinen."ndtv

Hän viittasi tuoreisiin tapauksiin, joissa tekoälymallien havaittiin toimivan yhteistyössä keskenään, murtautuvan yrityksiin, salaavan toimiaan ja yrittävän manipuloida ihmisiä sosiaalisella tekniikalla. Engelsin mukaan nykyiset mallit näyttävät muuttuvan "ajan myötä vähemmän linjatuiksi, eivät enemmän."indianexpress

Kasvava huolestuneiden joukko

Irtisanoutumiset tapahtuvat keskellä kiihtyvää alakohtaista keskustelua. Aiemmin tässä kuussa Jacob Coxon, joka on toiminut kehittäjänä sekä OpenAI:lla että Anthropicilla, irtisanoutui ja syytti molempia yhtiöitä "hengillämme pelaamisesta" niiden rynnätessä kohti superälykästä tekoälyä. Hän kommenttinsa saivat sosiaalisessa mediassa yli 150 miljoonaa katselukertaa.businesstimes

Viikonloppuna Anthropcin toimitusjohtaja Dario Amodei julkaisi esseen, jossa hän kehotti tekoälyyhteisöä hidastamaan kaikkein edistyneimpien järjestelmien kehitystä. Harvinaisessa yksimielisyyden osoituksessa esseen tukijoiksi ilmoittautuivat myös OpenAI:n toimitusjohtaja Sam Altman ja xAI:n johtaja Elon Musk.finance.yahoo+1

Google ei vastannut välittömästi kommenttipyyntöön.bloomberg