Tekoälyn kehityksen hidastamista vaativa keskustelu laajenee ja jakaa mielipiteitä

Tekoälyalan vaikutusvaltaisimpien toimijoiden keskuudessa on syntymässä harvinainen yhteisymmärrys: alan on painettava jarrua. Viikonloppuna Anthropicin toimitusjohtaja Dario Amodei julkaisi 3 800-sanaisen esseen "We Must Pace the Frontier", jossa hän ehdottaa kolmivaiheista suunnitelmaa tekoälymallien kehityksen hidastamiseksi ja riippumattoman turvallisuusvalvonnan käyttöönottamiseksi. Muutamassa tunnissa OpenAI:n toimitusjohtaja Sam Altman ja xAI:n Elon Musk ilmaisivat tukensa, ja Musk kirjoitti X-palvelussa lyhyesti: "Dario on oikeassa".nytimes+3

Kolmivaiheinen suunnitelma hahmottuu

Lauantain esseessään Amodei varoitti, että tekoäly voi 6–12 kuukauden kuluessa kyetä ohjaamaan autonomisia agenttilaumoja ihmisen hallinnan ulkopuolella. Hän ehdotti, että kaikkien tekoälyalan kärkiyritysten tulisi sitoutua antamaan riippumattomille kolmansille osapuolille "jatkuva, työntekijämäinen pääsy" arviointeihin, mitä seuraisi koko alan kattavat turvallisuusstandardit ja lopulta maailmanlaajuinen sääntely. Anthropic on jo sitoutunut yksipuolisesti ensimmäiseen vaiheeseen.bbc+3

Altman vastasi X:ssä, että ehdotus on linjassa OpenAI:n sisäisten keskustelujen kanssa, kirjoittaen: "Olen Darion kanssa samaa mieltä siitä, että meidän on hidastettava kehitystä", ja lupasi ottaa käyttöön kolmannen osapuolen arviointikehyksen. Maanantaina OpenAI:n johtaja Greg Brockman lisäsi vivahteita Bloombergin Odd Lots -podcastissa väittäen, että mahdollisen hidastamisen tulisi kohdistua vain huippulaboratorioihin, jotka käyttävät satoja miljardeja supertietokoneisiin, ei avoimen lähdekoodin kehittäjiin tai harrastajiin.nbcnews+2

Terveydenhuollon johtaja liittyy kuoroon

Tempus AI ↗ 5.42%:n perustaja ja toimitusjohtaja Eric Lefkofsky oli yksi ensimmäisistä merkittävistä tekoälylaboratorioiden ulkopuolisista hahmoista, joka tuki vaatimusta. Maanantaina Bloombergin New Yorkin pääkonttorilla antamassaan haastattelussa Lefkofsky sanoi voivansa kuvitella tilanteen, jossa itseään kehittävät mallit ohittavat ihmisen valvonnan. "Voin kuvitella sen, kun otetaan huomioon, että mallit kouluttavat ja parantavat nyt itse itseään, että tulee piste, jolloin kysytään: 'Karkaako tämä käsistämme?'", hän sanoi. Lefkofsky mainitsi myös pääoman tehokkuuden syyksi tukea maltillista lähestymistapaa, kertoo Crain's Chicago Business.bloomberg+1

Kaikki eivät ole mukana

Sijoittaja Michael Burry, "The Big Short" -elokuvan inspiroinut hedge-rahastojen hoitaja, julkaisi terävän vastineen Substack-sivustollaan Cassandra Unchained. Burry väitti, että suuret kielimallit eivät ole todellista tekoälyä, että hidastaminen suojelisi vain nykyisiä markkinajohtajia kilpailulta ja että turvallisuusvaroitukset ovat "hienostunutta markkinointia", jolla rakennetaan hypeä ennen mahdollisia pörssilistautumisia. Hän kuvaili vaatimuksia yritykseksi peittää se, että ala kamppailee jo nyt kasvun hidastumisen kanssa.nypost+2

Keskustelu vaikuttaa jo markkinoihin. Citigroup ↘ 1.90% varoitti maanantaina, että kasvavat huolet tekoälyn turvallisuudesta voisivat painaa yritysten tuloksia, ja pilvipalvelu- sekä siruyhtiöiden osakkeet laskivat laajasti pörssin esikaupankäynnissä. Yhdysvaltain keskuspankin tuleva korkopäätös myöhemmin tällä viikolla lisää epävarmuutta sijoittajille, jotka arvioivat tekoälyinvestointien tulevaa tahtia.news.futunn+1