OpenAI:n toimitusjohtaja Altman kertoo YK:n turvallisuusneuvostolle tekoälyn riskeistä

OpenAI julkaisi maanantaina ehdotuksen, jossa Yhdysvaltoja kehotetaan johtamaan kansainvälistä työtä edistyneen tekoälyn maailmanlaajuisten teknisten ja turvallisuusstandardien kehittämiseksi. Yhtiö varoitti, että toimettomuus voi johtaa tilanteeseen, jossa maa joutuu seuraamaan sivusta, kuinka "sirpaleinen, epätasainen ja konfliktien täyttämä järjestelmä vakiintuu sen ympärille".thenextweb+1

Ehdotus, joka keskittyy huipputason tekoälymalleihin ja rekursiiviseen itsekehitykseen – prosessiin, jossa tekoälyjärjestelmät ottavat yhä enemmän vastuuta omien seuraajiensa kehittämisestä – ajoittuu viikolle, jolloin tekoälydiplomatia on vilkasta sekä Yhdistyneissä kansakunnissa että Washingtonin ja Pekingin välillä.

Standardeja, ei lupia

OpenAI:n suunnitelma vaatii yhteisiä puitteita tekoälyn kykyjen mittaamiseen, tekoälyyritysten sisäisen autonomisen tutkimuksen arviointiin sekä yhteisten vaaratilanteiden raportointiprotokollien ja vakavuusasteikkojen luomiseen. Yhtiö ehdotti työn kanavoimista Yhdysvaltain kauppaministeriön tekoälystandardien ja innovaatioiden keskuksen sekä kasvavan kansallisten tekoälyturvallisuusinstituuttien verkoston kautta muun muassa Isossa-Britanniassa, Japanissa, Ranskassa ja Kanadassa.dig+1

Yhtiö korosti, että standardit "eivät olisi lupia, pakollisia ennakkotarkastuksia tai hyväksyntävaatimuksia tekoälymalleille", vaan kukin hallitus saisi itse päättää, miten ne sisällytetään kansalliseen lainsäädäntöön. OpenAI vaati myös turvallisia viestintäkanavia hallitusten ja kriittisen infrastruktuurin toimijoiden välille nousevien uhkien jakamiseksi ja totesi, että Yhdysvaltojen ja Kiinan välinen vuoropuhelu "olisi myönteinen askel".thenextweb+2

"Täysin autonomista rekursiivista itsekehitystä ei tapahdu tänään, emmekä me saa tavoitella sitä, ellei se ole turvallista", yhtiö kirjoitti.thenextweb

Kiireinen viikko tekoälydiplomatiassa

Ehdotus julkaistiin vilkkaan toiminnan keskellä. Valtiovarainministeri Scott Bessent kertoi viikonloppuna, että Yhdysvallat ja Kiina ovat sopineet kahdenvälisen tekoälyvuoropuhelun luomisesta, ja Washington on ehdottanut Pekingille mekanismia tekoälyyn liittyvien vaaratilanteiden ilmoittamiseen. Presidentti Donald Trump kirjoitti maanantaina Truth Socialissa kannattavansa kevyttä tekoälysääntelyä ja lisäsi: "Se, joka voittaa tekoälykilpailun, VOITTAA!" Bessent totesi erikseen, ettei hallinto aio myöntää huipputason tekoälylaboratorioille suojaa vastuukysymyksiltä.foxbaltimore+1

Tiistaina YK:n yleiskokouksessa pääsihteeri António Guterres varoitti tekoälyn vaaroista ja vaati maailmanlaajuista yhteistyötä. Trump tyrmäsi puheessaan ajatuksen "globalistisena juonena" ja sanoi Bloombergin mukaan Yhdysvaltojen nimeävän tekoälyn uudelleen "superälyksi".thenextweb

Altman turvallisuusneuvostossa

Sam Altman esittelee tekoälyn turvallisuusriskejä YK:n turvallisuusneuvostolle keskiviikkona iltapäivällä yhdessä Anthropicin toimitusjohtaja Dario Amodein, tekoälytutkija Yoshua Bengion ja Hugging Facen toimitusjohtaja Clément Delanguen kanssa. Kyseessä on neuvoston ensimmäinen istunto, joka keskittyy yhä kyvykkäämmän tekoälyn turvallisuusriskeihin. OpenAI:n edustajien mukaan Altman aikoo esiintyä "pragmaattisena keskustalaisena", joka edistää yhteisiä turvallisuusstandardeja keskittämättä valtaa muutamalle yritykselle.thenextweb

Myöhemmin tällä viikolla Altman osallistuu Valkoisen talon valtiolliselle illalliselle Kiinan presidentti Xi Jinpingin kunniaksi, mikä korostaa sitä, kuinka keskeiseksi tekoäly on noussut Yhdysvaltojen ja Kiinan välisissä suhteissa.foxbaltimore+1