Nadella hjá Microsoft segir gervigreindarfulltrúa vera innri ógn

Satya Nadella, forstjóri, vill að gervigreindarfulltrúar taki að sér mun meiri vinnu í einkatölvum, en hann segir jafnframt að fólk eigi ekki að treysta þeim skilyrðislaust. Í einkaviðtali við NBC News sem birt var á fimmtudag sagði hann að Windows ætti að vera öruggasta og öflugasta stýrikerfið fyrir gervigreindarfulltrúa, þrátt fyrir að hann varaði við áhættunni sem þeim fylgir.nbcnews.com

Viðtalið fylgir í kjölfar greinar sem Nadella birti á X laugardaginn 10. október. Þar kallaði hann eftir því að háþróuð gervigreind verði byggð með innilokun, óháðu eftirliti og „neyðarhemli“ sem gerir viðurkenndum aðilum kleift að gera hlé á eða stöðva líkan á miðri leið.bizjournals.com

Treystu líkaninu sem minnst

„Að meðhöndla lokuð og opin líkön eins og innri ógn er leið til að byggja slíkt kerfi,“ skrifaði Nadella. Hann hélt því fram að fyrirtæki geti ekki rakið hegðun líkana til ákveðins kóða á sama hátt og með hefðbundnum hugbúnaði. „Samt erum við að innleiða þessi flóknu kerfi og líkön, sem hafa aðgang að okkar viðkvæmustu gögnum,“ sagði hann.aninews.in+1

„Við verðum að gera ráð fyrir að líkan sé komið í hendur óviðkomandi og inniloka það frá byrjun,“ skrifaði hann og bætti við að háþróaðri líkön þurfi innilokunartækni sem iðnaðurinn ætti að staðla. Hann sagði að fyrirtæki ættu ekki að treysta eingöngu á loforð frá þeim sem smíða líkönin. Þess í stað sagði hann að stýringar á því hvað líkan getur nálgast og gert ættu að vera utan líkansins sjálfs.bloomberg.com+2

Rammi hans felur í sér notkun á fleiri en einu líkani, varðveislu á læsilegri skrá yfir það sem líkan gerir, stöðugar prófanir á kerfum, óháð eftirlit og úttektir, innilokun og upplýsingagjöf um atvik.cnbc.com

Windows sem vettvangur fyrir fulltrúa

Viðvaranir Nadella koma á sama tíma og Microsoft byggir öryggisverkfæri fyrir fulltrúa inn í Windows. Á Windows og Surface viðburði í San Francisco miðvikudaginn 7. október kynnti fyrirtækið Microsoft Execution Containers, sem það lýsir sem „stefnumiðaðri innilokun fyrir gervigreindarfulltrúa“. The Business Journals greindi frá því að ákall Nadella um öryggisráðstafanir komi á sama tíma og Microsoft heldur áfram með sína eigin fjölskyldu gervigreindarlíkana.bizjournals.com+1

Víðtækari áhersla á öryggi

Brad Smith, forseti Microsoft, hefur fært svipuð rök. Hann sagði við ITV News að gervigreind sé „minna reglusetd en þvottavélin þín“ og í viðtali við BBC ítrekaði hann ákallið um neyðarhemla. Hugmyndin hefur fengið stuðning eftir röð netárása og annarra atvika sem tengjast háþróuðum líkönum. Donald Trump forseti hefur á meðan ítrekað vísað á bug áhyggjum af því að gervigreind gæti ógnað mannkyninu og hefur lagt áherslu á að vera á undan Kína.independent.co.uk+1

Nadella dró stöðu sína saman á þennan hátt: „Traustasta ofurgreindarkerfið verður ekki það sem byggir á líkaninu sem við treystum mest. Það verður það sem gerir okkur kleift að treysta líkaninu sem minnst.“cnbc.com