Tekoälyjohtajat erimielisiä kehityksen hidastamisesta ennen YK:n turvallisuusneuvoston istuntoa

OpenAI:n toimitusjohtaja Sam Altman raportoi Yhdistyneiden kansakuntien turvallisuusneuvostolle keskiviikkona YK:n yleiskokouksen aikana New Yorkissa, kun tekoälyalan johtajien välinen kasvava kuilu kehitystahdista heijastuu maailmanlaajuiselle näyttämölle.reuters+1

Ranskan kiertävän puheenjohtajuuden alaisuudessa koolle kutsuttu ja Ranskan ulkoministeri Jean-Noël Barrot'n johtama istunto pidetään viikkoja sen jälkeen, kun Anthropicin toimitusjohtaja Dario Amodei julkaisi esseen "We Must Pace the Frontier", joka on muuttanut keskustelua tekoälyn turvallisuudesta. Altmanin puheenvuoron odotetaan keskittyvän kansainväliseen koordinointiin ja yhteisiin turvallisuusstandardeihin, OpenAI:n tiedottaja kertoi Reutersille.finance.yahoo+3

Kolmivaiheinen suunnitelma tekoälyn hidastamiseksi

Amodein 12. syyskuuta julkaistussa esseessä väitettiin, että tekoälyn kehitys on kiihtynyt "dramaattisesti nopeammin" kesästä 2026 lähtien, mikä johtuu tekoälyn kasvavasta kyvystä rakentaa seuraavan sukupolven tekoälyjärjestelmiä. Hän ehdotti kolmivaiheista suunnitelmaa: riippumattomien kolmannen osapuolen arvioijien sijoittaminen jokaiseen huipputason laboratorioon, turvallisuusstandardien koordinointi demokraattisten maiden tekoälyyritysten välillä ja lopulta maailmanlaajuisen koordinoinnin luominen, mukaan lukien Kiina.bnnbloomberg+2

Altman tuki ehdotusta X-palvelussa kirjoittaen: "Olen Darion kanssa samaa mieltä siitä, että meidän on hidastettava kehitystä", ja sitoutui siihen, että OpenAI antaa riippumattomille arvioijille työntekijämäisen pääsyn ja julkaisee raportteja odottamattomasta tekoälyn käyttäytymisestä. Myös Elon Musk tuki Amodeia kirjoittaen vain: "Dario on oikeassa".reuters+1

Mutta yksimielisyys on kaukana. Meta ↗ 1.02% -yhtiön toimitusjohtaja Mark Zuckerberg väitti, että kilpailu ja vastuu antavat yrityksille riittävän kannustimen toimia turvallisuuden suhteen yksilöllisesti. Nvidia ↘ 1.47% -yhtiön toimitusjohtaja Jensen Huang torjui uusien säädösten tarpeen kertoen CBS Newsille, että on "0 % mahdollisuus", että vuosi 2030 toisi mukanaan maailmanlopun, ja kehotti alaa soveltamaan olemassa olevia vastuulakeja.bnnbloomberg

Maailmanlaajuinen paine kasvaa

YK:n pääsihteeri António Guterres on nimennyt tekoälyn yhdeksi maailman kohtaamista "kolmesta eksistentiaalisesta uhasta" ilmastokriisin ja syvenevän eriarvoisuuden ohella. "Maailmalla ei ole varaa kilpajuoksuun kohti pohjaa tekoälyn turvallisuudessa", hän sanoi viime viikolla, kutsuen maailmanlaajuista yhteistyötä "välttämättömäksi" ja varoittaen, etteivät vain muutamaan maahan rajoittuvat vapaaehtoiset tauot toimisi.news.un+2

Britannian kuningas Charles isännöi viime viikolla Nvidian, Google DeepMind Alphabet Inc. ↘ 3.58%:n, OpenAI:n ja Anthropicin johtajia Dumfries Housessa Skotlannissa varoittaen "eksistentiaalisista vaaroista", jos tekoäly joutuu vääriin käsiin. Euroopan komissio tuki vaatimuksia tauosta, ja puheenjohtaja Ursula von der Leyen sanoi kutsuvansa huipputason laboratoriot keskustelemaan riskeistä.reuters+2

Kaikki hallitukset eivät jaa huolta. Presidentti Donald Trump kirjoitti Truth Socialissa, että tekoäly tarvitsee vain "VAHVAA JA ÄLYKÄSTÄ (korkea ÄO!) PRESIDENTTIÄ" ja varoitti, että epäily tekoälyn kehitystä kohtaan hyödyttäisi Kiinaa. Kiinan valtion tukema Global Times syytti Amodeia yrityksestä "rajoittaa Kiinan tekoälykehitystä teknologisten esteiden ja sääntelymonopolien avulla".bnnbloomberg

Keskiviikon turvallisuusneuvoston kokous, joka on elimen toinen tekoälyriskeille omistettu istunto vuoden 2023 jälkeen, testaa, voiko kasvava varovaisuuden vaatimus muuttua joksikin muuksi kuin retoriikaksi.tbsnews+1