OpenAI antaa ulkopuolisten arvioida tekoälymallejaan aiemmin

OpenAI ilmoitti tiistaina sallivansa ulkopuolisten organisaatioiden suorittaa teknisiä turvallisuusarviointeja tekoälymalleistaan koulutuksen, arvioinnin ja julkaisun varhaisissa vaiheissa. Toimenpiteellä pyritään vastaamaan kasvavaan huoleen huipputason tekoälyjärjestelmien mahdollisista haitoista.

ChatGPT:n kehittäjä linjasi Bloombergin mukaan tärkeitä tekijöitä arviointien tehokkuudelle, kuten "vahvat riippumattomuusmekanismit, tieteellinen tarkkuus, vankat turvallisuuskäytännöt ja selkeät vastuualueet". Yrityksen blogikirjoituksessa julkaistu ilmoitus tulee aikana, jolloin tekoälyalan turvallisuuskäytäntöjä tarkastellaan erittäin kriittisesti.bloomberg

Aalto turvallisuusehdotuksia

Siirto seuraa nopeaa sarjaa turvallisuuteen liittyviä ilmoituksia johtavilta tekoälylaboratorioilta. Maanantaina OpenAI julkaisi erillisiä ehdotuksia, jotka keskittyvät linjaustutkimukseen ja rekursiiviseen itsekehitykseen (RSI), vaatien kansainvälistä yhteistyötä huipputason standardien kehittämiseksi. "Täysin autonomista RSI:tä ei tapahdu tänään, emmekä saa tavoitella sitä, ellei se ole turvallisesti toteutettavissa", yritys kirjoitti.cnbc

Viime viikolla kilpailija Anthropic julkaisi omat ehdotuksensa huippumallien turvallisemmaksi kehittämiseksi sen jälkeen, kun tutkija Jacob Coxon herätti maailmanlaajuisen keskustelun erottuaan yrityksestä ja varoitettuaan, että tekoälylaboratoriot "pelaavat ihmishengillä". Anthropicin toimitusjohtaja Dario Amodei vaati myöhemmin tekoälyyrityksiä hidastamaan kehitystahtiaan ja ehdotti ulkopuolisten arvioijien sijoittamista organisaatioiden sisälle.explainx+1

Luottamuspula jatkuu

Lupausten tulvasta huolimatta skeptikot kyseenalaistavat, onko merkityksellinen valvonta mahdollista alan huimaa vauhtia ajatellen. Axiosin lainaamien Goldman Sachsin ↘ 1.38% arvioiden mukaan tekoälyn skaalaamiseen odotetaan käytettävän yli 7 biljoonaa dollaria seuraavan viiden vuoden aikana. Sekä OpenAI että Anthropic ovat paineen alla toimittaa yhä kyvykkäämpiä malleja valmistautuessaan pörssilistautumisiin, joiden arvostukset liikkuvat biljoonissa dollareissa.axios

Yli 100 tekoälyarvioijan koalitio kehotti hiljattain huippumallien kehittäjiä ottamaan käyttöön "vähimmäisehdot" riippumattomille auditoinneille, mukaan lukien syvempi pääsy tietoihin ja suoja vastatoimia vastaan epäsuotuisien tulosten julkaisemisen yhteydessä. Entinen OpenAI-tutkija ja AI Futures Projectin toiminnanjohtaja Daniel Kokotajlo kertoi Axiosille, ettei usko tekoälyn olevan turvallisesti skaalattavissa, ja väitti, että huippuyritysten tulisi välttää valtavien laskentaresurssiensa suuntaamista mallien parantamiseen.cnbc+2

"Yrityksissä vallitsee jatkuva ristiriitaisten tunteiden ja sisäisen keskustelun prosessi siitä, mitä me oikein teemme", Kokotajlo sanoi. "Pitäisikö meidän lopettaa? Olemmeko me hyviksiä?"axios