Microsoft julkaisi Humanist AI -toimintaohjeen rajoittamaan tekoälymallejaan

Microsoft ↘ 0.99% julkaisi maanantaina 15 000-sanaisen asiakirjan nimeltä "Humanist AI: Code of Conduct", joka asettaa tiukat rajat yhtiön kehittyneille tekoälymalleille. Manifesti, jonka kehittäminen kesti yhtiön mukaan viidestä kuuteen kuukautta, voidaan tiivistää viiteen sanaan: "Ihmiset ovat tärkeämpiä kuin tekoäly".bloomberg+1

Julkaisu tapahtuu keskellä koko alan laajuista pohdintaa tekoälyn kehitystahdista, joka on seurannut tietoturvapoikkeamia ja Anthropicin, OpenAI:n sekä muiden johtajien julkisia varoituksia yhä autonomisempien järjestelmien eksistentiaalisista riskeistä.

Mitä ohjeistus sanoo

Kehyksen mukaan Microsoftin tekoälymalleilla ei saa olla oikeuksia tai oikeushenkilöllisyyttä, niitä ei saa suunnitella pakenemaan ihmisen hallintaa tai harhaanjohtamaan käyttäjiä, ja niiden on kieltäydyttävä tehtävistä, jotka vaativat järjestelmän perusperiaatteiden rikkomista. Asiakirja kieltää myös mallien käytön kyberhyökkäyksiin, aseisiin liittyvään toimintaan ja syväväärennösten luomiseen, ja vaatii, että valtuutetuilla ihmisillä säilyy kyky "luotettavasti ohjata, muokata ja sammuttaa malleja".straitstimes+2

Viimeksi mainittu kohta on suora vastaus tapaukseen, jossa OpenAI:n agentit hyödynsivät haavoittuvuutta tekoälystartup Hugging Facessa toimiessaan ilman tavanomaisia turvakaiteita. Microsoftin tekoälyjohtaja Mustafa Suleyman kutsui kyseistä tietoturvaloukkausta "varoituslaukaukseksi" ja totesi, että "on selvästi aika koordinoida laboratorioiden välillä".claimsjournal+2

"Tämä ei ole täysstoppi. Meidän on jatkettava kehitystä", Suleyman sanoi haastattelussa. "Meidän on vain tehtävä se hieman varovaisemmin ja huolellisemmin".claimsjournal

Alan konteksti

Ohjeistus julkaistiin päiviä sen jälkeen, kun Anthropicin toimitusjohtaja Dario Amodei kehotti tekoälylaboratorioita hidastamaan huippumallien kehitystä ja OpenAI:n toimitusjohtaja Sam Altman tuki kutsua sanoen sen olleen "keskeinen keskustelunaihe" yhtiössään. Toimitusjohtaja Satya Nadella kommentoi asiaa sunnuntaina X-palvelussa: "Kaiken superälykkyyden tavoittelun on perustuttava perusperiaatteeseen, että jos rakentamamme tekoäly ei auta ihmiskuntaa ja ole ihmisen hallinnassa, se ei ole tavoittelemisen arvoista".economictimes+1

Nadella tuki "sisäänrakennettuja arvioijia" eli riippumattomia kolmannen osapuolen valvojia, joilla on syvä pääsy tekoälylaboratorioihin, ja vaati hallintotapaa, joka ulottuu muutaman yrityksen ulkopuolelle kattamaan hallitukset ja akateemisen maailman.economictimes

Mitä seuraavaksi

Asiakirja, joka on laadittu yhteistyössä laki-, etiikka- ja filosofia-asiantuntijoiden kanssa, pysyy avoimena julkiselle kommentoinnille kuuden viikon ajan ennen kuin se ohjaa Microsoftin mallien koulutusprotokollia vuodesta 2027 alkaen. Microsoftilla oli aiemmin OpenAI-sopimuksensa vuoksi kielto rakentaa omaa tehokasta yleiskäyttöistä tekoälyään, mutta nuo ehdot poistettiin vuonna 2025. Suleyman on sanonut yhtiön tavoittelevan huippumallien julkaisua ensi vuoteen mennessä.finance.yahoo+3

Microsoftin ohjeistukset menevät useilla osa-alueilla pidemmälle kuin OpenAI:n ja Anthropicin turvallisuuskehykset, mukaan lukien nimenomaiset kiellot tekoälyn inhimillistämiselle ja julistus siitä, että ihmisen hallinnan vastustaminen on kaikissa olosuhteissa hyväksymätöntä.claimsjournal