„Microsoft“ išleido „Humanist AI“ kodeksą, ribojantį dirbtinio intelekto modelius

Pirmadienį „Microsoft“ ↗ 1.97% paskelbė 15 000 žodžių dokumentą, pavadintą „Humanist AI: Code of Conduct“, kuriame išdėstyti principai, nustatantys griežtus apribojimus bendrovės pažangiausiems dirbtinio intelekto modeliams. Šį manifestą, kurį bendrovė kūrė penkis ar šešis mėnesius, galima apibendrinti penkiais žodžiais: „Žmonės svarbesni už dirbtinį intelektą.“bloomberg+1

Šis dokumentas pasirodė visoje pramonėje vykstant diskusijoms dėl dirbtinio intelekto plėtros tempo, po saugumo incidentų ir viešų „Anthropic“, „OpenAI“ bei kitų įmonių vadovų įspėjimų apie egzistencinę riziką, kylančią dėl vis labiau autonomiškų sistemų.

Ką numato kodeksas

Pagal šią sistemą, „Microsoft“ dirbtinio intelekto modeliai negali turėti teisių ar teisinio subjektiškumo, jie negali būti kuriami taip, kad išvengtų žmogaus kontrolės ar klaidintų vartotojus, ir privalo atsisakyti vykdyti bet kokią užduotį, kuriai reikia pažeisti pagrindinius sistemos principus. Dokumentas taip pat draudžia modeliams dalyvauti kibernetinėse atakose, su ginklais susijusioje veikloje ir kurti „deepfake“ turinį, bei reikalauja, kad įgalioti žmonės išlaikytų galimybę „patikimai valdyti, modifikuoti ir išjungti modelius.“straitstimes+2

Ši paskutinė nuostata yra tiesioginis atsakas į incidentą, kai „OpenAI“ agentai išnaudojo spragą dirbtinio intelekto startuolyje „Hugging Face“, veikdami be standartinių saugumo priemonių. „Microsoft AI“ vadovas Mustafa Suleymanas tą įsilaužimą pavadino „įspėjamuoju šūviu“ ir pareiškė, kad „akivaizdu, jog atėjo laikas koordinuoti veiksmus tarp laboratorijų.“claimsjournal+2

„Mes nesustojame. Turime tęsti plėtrą,“ interviu sakė Suleymanas. „Tiesiog turime tai daryti su šiek tiek daugiau atsargumo ir rūpesčio.“claimsjournal

Pramonės kontekstas

Kodeksas pasirodė praėjus kelioms dienoms po to, kai „Anthropic“ vadovas Dario Amodei paragino dirbtinio intelekto laboratorijas sulėtinti pažangių modelių kūrimą, o „OpenAI“ vadovas Samas Altmanas pritarė šiam raginimui, teigdamas, kad tai buvo „pagrindinė diskusijų tema“ jo įmonėje. Sekmadienį „X“ platformoje savo nuomonę išreiškė ir „Microsoft“ vadovas Satya Nadella: „Bet koks superintelekto siekis turi būti pagrįstas esminiu principu: jei mūsų kuriamas dirbtinis intelektas nepadeda žmonijai ir nėra valdomas žmogaus, jis nėra vertas pastangų.“economictimes+1

Nadella parėmė „įdiegtus vertintojus“ – nepriklausomus trečiųjų šalių stebėtojus, turinčius gilią prieigą prie dirbtinio intelekto laboratorijų – ir paragino kurti valdymą, kuris apimtų ne tik kelias įmones, bet ir vyriausybes bei akademinę bendruomenę.economictimes

Kas toliau

Dokumentas, parengtas konsultuojantis su teisės, etikos ir filosofijos ekspertais, bus atviras viešoms pastaboms šešias savaites, o nuo 2027 m. taps „Microsoft“ modelių mokymo protokolų pagrindu. Anksčiau „Microsoft“ pagal sutartį su „OpenAI“ buvo draudžiama kurti savo galingą bendrosios paskirties dirbtinį intelektą, tačiau šios sąlygos buvo panaikintos 2025 m. Suleymanas teigė, kad bendrovė siekia išleisti moderniausius modelius iki kitų metų.finance.yahoo+3

„Microsoft“ gairės daugelyje sričių yra griežtesnės nei „OpenAI“ ar „Anthropic“ saugumo sistemos, įskaitant aiškius draudimus antropomorfizuoti dirbtinį intelektą ir deklaraciją, kad pasipriešinimas žmogaus kontrolei yra nepriimtinas jokiomis aplinkybėmis.claimsjournal