OpenAI ja Anthropic vaativat molemmat maailmanlaajuista tekoälyn valvontaelintä

OpenAI:n toimitusjohtaja Sam Altman ja päätutkija Jakub Pachocki julkaisivat maanantaina blogikirjoituksen, jossa vaadittiin kansainvälisen organisaation perustamista valvomaan huipputason tekoälyn kehitystä, mukaan lukien kykyä hidastaa edistystä "tarvittaessa", jotta turvallisuus ja yhteiskunnallinen sietokyky pysyvät tahdissa. Vaatimus oli osa laajempaa vision julkistusta, jossa kerrottiin Altmanin kuvaamasta OpenAI:n "kolmannesta vaiheesta". Julkistus tapahtui samana päivänä, kun yritys vahvisti jättäneensä luottamuksellisen listautumishakemuksen SEC:lle.businessinsider+1

Harvinainen yhteenkuuluvuus kilpailijoiden välillä

Ajoitus on huomionarvoinen, koska se seuraa kilpailija Anthropicin vastaavaa lausuntoa. Anthropic julkaisi 4. kesäkuuta raportin, jossa kehotettiin tekoälylaboratorioita kehittämään koordinoitu ja todennettavissa oleva kehityksen tauottamisjärjestelmä, jos edistyneet järjestelmät alkavat kehittää itseään nopeammin kuin yhteiskunta pystyy hallitsemaan. "Uskomme, että maailman kannalta olisi hyvä, jos olisi mahdollisuus hidastaa tai keskeyttää väliaikaisesti huipputason tekoälyn kehitys, jotta yhteiskunnalliset rakenteet ja linjaustutkimus pysyvät tahdissa", Anthropic kirjoitti.finance.yahoo+1

Anthropic varoitti, että "rekursiivinen itsekehitys" — jossa tekoälyjärjestelmät itsenäisesti suunnittelevat, rakentavat ja kouluttavat seuraajiaan — "voi saapua nopeammin kuin monet organisaatiot ovat valmiita", ja että ilman riittäviä suojatoimia se voisi vaikeuttaa ihmisten suorittamaa tekoälyn kehityksen valvontaa. Yritys totesi, että mikä tahansa merkittävä tauko vaatisi sopimusta useiden johtavien laboratorioiden välillä eri maissa, erityisesti Yhdysvalloissa ja Kiinassa, sekä todentamisprotokollia.reuters+1

Kilpailusta koordinaatioon

Kahden yrityksen lähentyminen on silmiinpistävää niiden välisen kovan kaupallisen kilpailun vuoksi. Molemmat valmistautuvat pörssilistautumisiin; Anthropic jätti oman S-1-hakemuksensa kesäkuun alussa ja OpenAI:n arvo on yli 850 miljardia dollaria. Silti molemmat tukevat nyt julkisesti ajatusta siitä, että ulkopuolisella elimellä tulisi olla valtuudet rajoittaa tehokkaimpien tekoälyjärjestelmien kehitystä.vktr+1

OpenAI:n pyrkimys kansainväliseen hallintoelimeen ei ole uusi — Altman ehdotti ensimmäisen kerran "superälykkyyden IAEA:ta" vuonna 2023 — mutta viimeisin lausunto on muotoilultaan konkreettisempi. The Decoderin mukaan Altman ja Pachocki vaativat "kansainvälistä elintä, joka voisi tarvittaessa hidastaa huipputason kehitystä". Business Insider raportoi, että kaksikko korosti "kansallisen ja kansainvälisen yhteistyön välttämättömyyttä, toistaen ehdotuksensa maailmanlaajuisesta organisaatiosta, joka on omistautunut tekoälyyn liittyvien riskien lieventämiseen ja jolla on kyky hidastaa edistyneiden mallien kehitystä tarvittaessa".nytimes+2

Jää nähtäväksi, jäävätkö ehdotukset pelkäksi retoriikaksi. Kumpikaan yritys ei ole sitoutunut yksipuolisiin rajoituksiin omassa kehityksessään, ja Anthropic myönsi, että jos vain yksi yritys pitäisi tauon, kilpailijat pääsisivät edelle. Keskeinen kysymys on nyt se, tarttuvatko hallitukset kutsuun — ja hyväksyvätkö laboratoriot todellisen ulkopuolisen vallan työnsä yläpuolelle.finance.yahoo