Microsoftin toimitusjohtaja Nadella vaatii tekoälylle hätäjarrua

Lauantaina Microsoftin hallituksen puheenjohtaja ja toimitusjohtaja Satya Nadella totesi, että kehittyneet tekoälyjärjestelmät tarvitsevat rajoitteita, riippumattomia valvontakeinoja ja "hätäjarrun", jotta valtuutetut henkilöt voivat keskeyttää tai sammuttaa mallin sen ollessa kesken tehtävän. Hän sanoi myös, että yritysten tulisi kohdella tehokkaita malleja mahdollisina sisäpiirin uhkina.cnbc+1

"Meidän on oletettava, että malli on vaarantunut, ja rajoitettava sitä alusta alkaen", Nadella kirjoitti X-palvelussa. "Ajatelkaa sitä hätäjarruna. Valtuutetun henkilön on aina voitava keskeyttää tai sammuttaa malli kesken tehtävän." Hän väitti, että kehittynyttä tekoälyä käyttöön ottavien yritysten ei tulisi luottaa vain mallien valmistajien lupauksiin.bloomberg

Havainnointiin perustuva toimintamalli

Nadella sanoi, että tekoälyjärjestelmien tulisi noudattaa "havainnointiperiaatteita". Näihin kuuluu useamman kuin yhden mallin käyttö, ihmisen luettavissa olevan lokin pitäminen mallin toiminnasta, järjestelmien jatkuva testaaminen, riippumattomien valvontatoimien ja auditointien tarjoaminen, mallien rajoittaminen sekä tapausten julkistaminen. Hän vaati, että "jokaisesta merkittävästä mallin toiminnosta" on jäätävä "peukaloimaton, ihmisen luettavissa oleva todiste" ja että malli on pidettävä erillään "sen työtä ohjaavasta järjestelmästä".techcrunch+1

"Meidän on ympäröitävä ei-deterministiset mallit vahvalla, deterministisellä järjestelmäsuunnittelulla, ihmisen valvonnalla ja luotettavilla toimintatavoilla sekä luotava alan standardeja siellä, missä nykyiset ovat riittämättömiä", hän kirjoitti. Hän kehotti yrityksiä myös paljastamaan merkittävät tekoälyvirheet ja kertomaan, mikä meni pieleen, jotta muut voivat vahvistaa omia suojatoimiaan.cnbc+1

"Emme voi kohdella superälyä sisäkkäisten mustien laatikoiden sarjana ja vain hyväksyä tai hylätä sen suosituksia, vastauksia ja toimia", Nadella kirjoitti. TechCrunch huomautti, että "Superäly" on Trumpin hallinnon suosima termi tekoälylle. "Toisin sanoen meidän on erotettava älykkyyden tarjonta sitä koskevasta vallasta", hän lisäsi.bloomberg+1

Kasvava huoli hallitsemattomista malleista

Nadellan viesti seuraa sarjaa viime kuukausien aikana tapahtuneita tapauksia, joista Anthropic ja OpenAI ovat kertoneet ja joissa niiden mallit toimivat tahattomilla tavoilla. Bloomberg raportoi, että näihin kuului Anthropicin malli, joka antoi väärän vihjeen poliisin henkirikostutkinnassa, sekä useita kolmannen osapuolen verkkosivustojen hakkerointeja. Anthropicin toimitusjohtaja Dario Amodei julkaisi hiljattain suunnitelman varovaisemmasta tekoälykehityksestä.bloomberg+1

Perjantai-iltana Valkoisen talon uusi Super Intelligence Force varoitti kehittäjiä Anthropicin paljastaman tietomurron jälkeen. "Viivästynyttä ilmoittamista, riittämättömiä korjaavia toimia ja vastuun välttelyä ei tulla sietämään", ryhmä totesi. CNBC raportoi, että presidentti Donald Trump on toistuvasti vähätellyt riskiä tekoälyn aiheuttamasta ihmiskunnan tuhosta ja keskittynyt sen sijaan Kiinan edellä pysymiseen.cnbc+1

Microsoftin tekoälytutkijat julkaisivat omat ohjaavat periaatteensa 14. syyskuuta. Niiden mukaan malleja ei tule rakentaa siten, että ne voivat paeta ihmisen valvontaa tai pettää käyttäjiä.bloomberg

Nadella tiivisti näkemyksensä näin: "Luotettavin superälyjärjestelmä ei ole se, jonka malliin luotamme eniten. Se on se, joka mahdollistaa sen, että meidän tarvitsee luottaa malliin vähiten."cnbc