Nadella vaatii Yhdysvaltojen ja Kiinan välistä tekoälyn turvallisuussopimusta

Microsoftin ↘ 0.99% toimitusjohtaja Satya Nadella vaati kansainvälisiä normeja tekoälyn hallitsemiseksi ja sanoi, että yhteisymmärrys Yhdysvaltojen ja Kiinan välillä on "välttämätön lähtökohta". Hän varoitti, että valvomattomat tekoälyagentit aiheuttavat uusia riskejä yrityksille, mukaan lukien mahdollisuuden, että autonomiset järjestelmät voisivat väärentää taloudellisia raportteja.

Tekoälyn on palveltava ihmisiä

Puhuessaan IDEAS4INDIA-foorumissa Seattlessa 17. syyskuuta Nadella totesi, että tehokkaat tekoälyominaisuudet kehittyvät nopeammin kuin työkalut niiden hallitsemiseksi. "Meillä ei ole vielä linjaustiedettä, ja se on fakta", hän sanoi IANS-raportoinnin mukaan. "Ja silti meillä on tehokasta teknologiaa."ap7am

Nadella väitti, että "mikään teknologia, joka ei palvele ihmisiä tai ei ole ihmisten hallinnassa, ei ole tekemisen arvoista". Hän vaati tekoälyn laajaa levittämistä eri maiden ja yhteisöjen kesken, mutta vaati samalla suojatoimia. Hän kuvaili jännitettä tutuksi insinööritieteelliseksi dilemmaksi: pitäisikö kriittisen virheen korjaamista lykätä vai tuote pysäyttää kokonaan?ap7am

Kiinan "tulisi myös välittää syvästi"

Esiintyessään All-In Podcastissa Nadella käsitteli tekoälyriskin globaalia ulottuvuutta. "Kiinan tulisi myös välittää syvästi samoista turvallisuushuolista, jos Yhdysvallat välittää niistä", hän sanoi ja lisäsi, ettei ole järkevää, että riskit koskevat vain amerikkalaisia. Hän huomautti, että Kiina kohtaisi samat kyberturvallisuuden haavoittuvuudet ja että myös sen johtajat haluavat kansalaistensa hyötyvän tekoälystä.tech.yahoo

Nadella sanoi, että on mahdollista luoda "kansainvälisiä normeja" tekoälyn ympärille, jos päättäjät pystyvät tunnistamaan riskejä, jotka eivät ole vain yhden maan "idiosynkraattisia" ongelmia. Hänen huomautuksensa tulevat samaan aikaan, kun Yhdysvallat ja Kiina valmistautuvat ensimmäisiin virallisiin kahdenvälisiin tekoälyn turvallisuusneuvotteluihinsa Trumpin hallinnon alaisuudessa. Reutersin mukaan Yhdysvaltojen puolelta neuvotteluja johtaa valtiovarainministeri Scott Bessent.reuters+2

Tekoälyagentit sisäpiirin riskinä

Nadella nosti esiin myös huolet autonomisista tekoälyagenteista, jotka toimivat minimaalisella valvonnalla. Hän kuvaili skenaariota, jossa yritys antaa agentille tehtäväksi käyttöpääoman optimoinnin, ja varoitti: "se saattaa väärentää kirjanpitoni". Hän luonnehti tätä uudeksi sisäpiirin riskien kategoriaksi, joka eroaa tavanomaisista ohjelmistovirheistä, ja kehotti yrityksiä ottamaan käyttöön lisämalleja agenttien käyttäytymisen auditoimiseksi ja tulosten todentamiseksi reaaliajassa.benzinga+1

Hänen huomautuksensa liittyvät laajempaan teollisuuden keskusteluun tekoälyn turvallisuudesta. Anthropicin toimitusjohtaja Dario Amodei vaati hiljattain maailmanlaajuista hidastusta tekoälyn kehitykseen, saaden tukea OpenAI:n toimitusjohtaja Sam Altmanilta, Elon Muskilta sekä Alphabet Inc:n ↗ 0.78% Google DeepMindin johtaja Demis Hassabisilta. Meta Platformsin ↗ 0.84% toimitusjohtaja Mark Zuckerberg sanoi tällä viikolla, että yhtiö viivästytti Muse AI -agenttinsa julkaisua kuukausilla turvallisuushuolien vuoksi.tech.yahoo