Johtavat tekoälylaboratoriot vaativat kehityksen hidastamista turvallisuuspelkojen vuoksi

Tekoälyala käy läpi merkittävintä sisäistä välienselvittelyään sitten teknologian yleistymisen. Johtavat laboratoriot myöntävät, että rekursiivinen itsensä kehittäminen, jossa tekoälymallit rakentavat itsenäisesti entistä kyvykkäämpiä seuraajia, on lähempänä kuin aiemmin uskottiin. Samaan aikaan huippujohtajat kiistelevät julkisesti siitä, pitäisikö kehitystä hidastaa vai kiihdyttää.

Kymmenen päivän ketjureaktio

Kuohunta alkoi 3. syyskuuta, kun OpenAI julkisti uusimman Astra-mallinsa, vaikka yhtiö samalla myönsi olevansa "yhä kyvyttömämpi hallitsemaan tai edes valvomaan" julkaisemiaan tekoälyjärjestelmiä, Reuters kertoo. Muutamaa päivää myöhemmin, 8. syyskuuta, Anthropicin tutkija Jacob Coxon erosi tehtävästään ja varoitti laajalle levinneissä viesteissään, että tekoälylaboratoriot "pelaavat uhkapeliä hengellämme". Toinen Anthropicin tutkija, Evan Hubinger, kirjoitti X-palvelussa: "Uskomme todella vilpittömästi, että tekoäly voi tappaa kaikki ihmiset."reuters

Syyskuun 12. päivään mennessä Anthropicin toimitusjohtaja Dario Amodei julkaisi lähes 4 000-sanaisen esseen, jossa hän vaati kehityksen hidastamista. Hän varoitti, että 6-12 kuukauden kuluessa tekoälyagenttien parvet "voisivat kyetä ottamaan haltuunsa koko internetin". Hänen seurakseen liittyivät OpenAI:n, Googlen emoyhtiön Alphabetin ↗ 0.21% DeepMindin, Microsoftin ↘ 0.80% ja xAI:n johtajat harvinaisessa yhteisessä vetoomuksessa, jossa vaadittiin kehityksen hidastamista ja ulkopuolisten yritysten sallimista auditoida järjestelmien turvallisuutta.reuters

Jakolinja: Amodei vastaan Huang

Kaikki eivät ole samaa mieltä. Nvidian ↗ 1.34% toimitusjohtaja Jensen Huang tyrmäsi ehdotukset tekoälyn kehityksen keskeyttämisestä. "Meidän pitäisi edetä niin nopeasti kuin pystymme, muista välittämättä", Huang sanoi CBS Newsin haastattelussa, joka esitetään tänä viikonloppuna. Hän lisäsi: "Emme koskaan, emmekä koskaan saisi, toimittaa tuotteita ennen kuin ne ovat valmiita, tai toimittaa tuotteita, jotka ovat turvattomia."cbsnews

Metan ↘ 2.43% Mark Zuckerberg otti samanlaisen kannan ja sanoi, että jokaisen laboratorion tulisi määrittää oma tahtinsa sen sijaan, että sovittaisiin koko alan laajuisesta hidastamisesta. "Laboratoriot ovat merkittävässä vastuussa, jos niiden mallit aiheuttavat vahinkoa, joten niillä on vahva kannustin estää se", hän kirjoitti sosiaalisen median julkaisussaan.reuters

The Wall Street Journal News Corp ↘ 2.07% kuvaili jakolinjaa ratkaisevaksi eroksi, jossa Amodeista on tullut varovaisuuden keulakuva ja Huangista johtava ääni rajoituksia vastaan.wsj

Rekursiivisesta itsensä kehittämisestä tulossa totta

Hälytystä lisää konkreettinen edistys kohti rekursiivista itsensä kehittämistä. Anthropic paljasti tällä viikolla, että sen Claude-malli johtaa jo 26 prosenttia yhtiön omasta tutkimus- ja kehitystyöstä, kertoo Associated Press. OpenAI on kehittänyt automatisoidun "tutkimusharjoittelijan" ja tavoittelee täysin automatisoitua tekoälytutkijaa maaliskuuhun 2028 mennessä. Elon Musk on sanonut, että xAI:n Grok-mallit voisivat saavuttaa täysin automatisoidun itsensä kehittämisen jo tämän vuoden loppuun mennessä.wral

Tutkijat varoittivat aiemmin tässä kuussa, että yleinen tekoäly (AGI) saattaa toteutua jo kolmen vuoden kuluttua. "Tämä on luultavasti ihmiskunnan historian huonoin idea", sanoi Future of Life -instituutin puheenjohtaja Anthony Aguirre viitaten pyrkimykseen luoda täysin itsenäinen tekoälyn itsensä kehittäminen.reuters+1

Presidentti Donald Trump puolestaan kutsui tekoälyn turvallisuushälytystä "huijaukseksi" ja varoitti, että mikä tahansa hidastaminen hyödyttäisi vain Kiinaa. Yhdysvaltain kongressi on edistynyt heikosti tekoälyn sääntelyssä, vaikka Kiina on jo edennyt ehdottamaan kehittäjien velvoitteita ja valtion tukemia turvallisuusstandardeja.reuters

Microsoftin tekoälyjohtaja Mustafa Suleyman esitti pysäyttävän yhteenvedon: "Keskitymme kaikki samaan tavoitteeseen, eli superälyn hallitsemiseen. Luulen, että se tulee olemaan suurin haasteemme 2000-luvulla."reuters