Entinen DeepMind-tutkija: Tekoäly kehittyy liian nopeasti hallittavaksi

Alex Turner, entinen tutkija Google Alphabet Inc. ↘ 1.24% DeepMindin skaalautuvan kohdistamisen tiimistä, esiintyi maanantaina Bloombergilla väittäen, että tekoälyn kehitysvauhti on ylittänyt hallitusten, yritysten ja kilpailevien suurvaltojen kyvyn hallita sen riskejä. Hänen huomautuksensa tulivat keskellä ennennäkemätöntä tekoälyjohtajien vaatimusten aaltoa alan huiman kehityksen hidastamiseksi.

Ilmiantajan kasvava alusta

Turner erosi Google DeepMindistä kesäkuussa sen jälkeen, kun yritys allekirjoitti sopimuksen, joka salli Pentagonin käyttää sen tekoälyä luokiteltuun työhön. Hänen mukaansa sopimuksesta puuttuivat sitovat rajoitukset autonomisia aseita tai massavalvontaa vastaan. Siitä lähtien hänestä on tullut yksi näkyvimmistä tekoälyn kehityssuuntaa varoittavista äänistä. Viime viikolla CNBC:n haastattelussa hän sanoi olevansa "huolissaan sukupuuttoon kuolemisen riskistä", joka teknologiaan liittyy.cnbc+2

Maantantain Bloomberg-haastattelussa Turner nosti keskeiseksi vaaraksi rekursiivisen itsekehityksen eli tekoälyjärjestelmien kyvyn parantaa omia ominaisuuksiaan, varoittaen sen voivan nopeasti tuottaa ihmisymmärryksen ylittävää älykkyyttä. Hän osoitti myös laskentatehon seurannan käytännönläheiseksi sääntelykeinoksi, väittäen, että huippumallien kouluttamiseen tarvittavan valtavan prosessointitehon valvonta voisi antaa hallituksille konkreettisen tavan asettaa rajoja. Turner myönsi, että suurten teknologiayritysten viimeaikaiset hidastamisvaatimukset voivat olla osittain vilpittömiä ja osittain strateginen siirto edun varmistamiseksi.bloomberg

Alan kuoro voimistuu

Turnerin varoitukset osuvat tekoälyturvallisuuskeskustelun kannalta ratkaisevalle viikolle. Lauantaina Anthropicin toimitusjohtaja Dario Amodei julkaisi 3 800-sanaisen esseen "We Must Pace the Frontier", jossa hän kehotti laboratorioita hidastamaan tietoisesti kyvykkyyden kasvua, jotta kohdistamistutkimus pysyisi perässä. OpenAI:n toimitusjohtaja Sam Altman ja Elon Musk tukivat viestiä julkisesti. Myös Google DeepMindia johtava Demis Hassabis ilmaisi olevansa samaa mieltä.cnbc+1

Amodei esitti kolmivaiheisen kehyksen: riippumattomien arvioijien sijoittaminen laboratorioihin, turvallisuusstandardien koordinointi demokraattisten maiden kesken ja näiden sopimusten laajentaminen lopulta maailmanlaajuisesti, mukaan lukien Kiina. Maanantaihin mennessä yksikään kilpaileva laboratorio ei kuitenkaan ollut vastannut Anthropicin konkreettiseen sitoumukseen antaa kolmannen osapuolen tarkastajille työntekijätason pääsy.shattered

Kiinan dilemma

Geopoliittinen ulottuvuus on suuri. Amodei itse kutsui Kiinaa "vaikeimmaksi dilemmaksi" mille tahansa hidastusehdotukselle, tunnustaen riskin siitä, että länsimaisten laboratorioiden yksipuolinen pidättäytyminen voisi antaa etumatkaa Pekingille. Turner vastasi sosiaalisessa mediassa Trumpin hallinnon tekoälytsaari David Sacksin väitteisiin, joka hylkäsi hidastamislait kilpailun rajoittamisyrityksenä. Turner kirjoitti sunnuntaina julkaistussa Guardianin mielipidekirjoituksessa, että ratkaisu on "suoraviivainen: estetään yrityksiä mahdollistamasta tekoälyn itsekehitystä hallittavissa olevan älykkyystason yli".politomix+3