Nadella kallar eftir öryggissamkomulagi Bandaríkjanna og Kína um gervigreind

Satya Nadella, forstjóri Microsoft ↘ 0.80%, hefur kallað eftir alþjóðlegum viðmiðum um stjórnun gervigreindar og segir samkomulag milli Bandaríkjanna og Kína vera nauðsynlegt upphafspunkt. Hann varar við því að óheftir gervigreindarfulltrúar skapi nýja áhættu fyrir fyrirtæki, þar á meðal möguleikann á því að sjálfstæð kerfi geti falsað fjárhagsupplýsingar.

Gervigreind verður að þjóna mannkyninu

Í ræðu sinni á IDEAS4INDIA ráðstefnunni í Seattle þann 17. september sagði Nadella að öflug gervigreindartækni þróist hraðar en verkfærin til að stjórna henni. "Við höfum ekki enn fundið vísindin á bak við samræmingu og það er staðreynd," sagði hann samkvæmt fréttum frá IANS. "Og samt höfum við öfluga tækni í höndunum."ap7am

Nadella hélt því fram að tækni sem þjónar ekki mannkyninu eða er ekki undir stjórn manna sé ekki þess virði að þróa hana. Hann kallaði eftir víðtækri útbreiðslu gervigreindar milli landa og samfélaga en lagði áherslu á öryggisráðstafanir. Hann lýsti spennunni sem eins konar verkfræðilegu vandamáli: hvort eigi að fresta viðgerð á alvarlegum galla eða stöðva vöruna algjörlega.ap7am

Kína ætti einnig að hafa miklar áhyggjur

Í sérstöku viðtali í All-In Podcast fjallaði Nadella um alþjóðlega vídd áhættu af gervigreind. "Kína ætti einnig að hafa miklar áhyggjur af sömu öryggismálum ef Bandaríkin gera það," sagði hann og bætti við að það væri óskynsamlegt að áhættan varði aðeins Bandaríkjamenn. Hann benti á að Kína myndi standa frammi fyrir sömu netöryggisógnum og að leiðtogar þar vilji einnig að borgarar þeirra njóti góðs af gervigreind.tech.yahoo

Nadella sagði að möguleiki væri á að koma á alþjóðlegum viðmiðum um gervigreind ef stefnumótendur gætu greint áhættu sem er ekki bundin við eitt land. Ummæli hans koma á sama tíma og Bandaríkin og Kína undirbúa fyrstu opinberu tvíhliða viðræður sínar um öryggi gervigreindar undir stjórn Trump-stjórnarinnar, en Scott Bessent fjármálaráðherra leiðir viðræðurnar fyrir hönd Bandaríkjanna, samkvæmt Reuters.reuters+2

Gervigreind sem innri áhætta

Nadella vakti einnig athygli á áhyggjum af sjálfstæðum gervigreindarfulltrúum sem starfa með lágmarks eftirliti. Hann lýsti aðstæðum þar sem fyrirtæki felur fulltrúa að hámarka veltufé og varaði við: "hann gæti falsað bókhald mitt." Hann flokkaði þetta sem nýja tegund af innri áhættu, ólíka hefðbundnum hugbúnaðarvillum, og hvatti fyrirtæki til að nota viðbótarlíkön til að endurskoða hegðun fulltrúa og staðfesta niðurstöður í rauntíma.benzinga+1

Ummælin bæta rödd Nadella við víðtækari umræðu í iðnaðinum um öryggi gervigreindar. Dario Amodei, forstjóri Anthropic, kallaði nýlega eftir alþjóðlegri hægingu á þróun gervigreindar, sem fékk stuðning frá Sam Altman, forstjóra OpenAI, Elon Musk og Demis Hassabis, yfirmanni Google DeepMind hjá Alphabet Inc. ↗ 0.21%. Mark Zuckerberg, forstjóri Meta Platforms ↘ 2.43%, sagði í vikunni að fyrirtækið hefði seinkað útgáfu Muse gervigreindarfulltrúa sínum í marga mánuði til að bregðast við öryggisáhyggjum.tech.yahoo