DI etika

Atnaujinta „Anthropic“ naudojimo politika draudžia piktnaudžiavimą „Claude“

Ketvirtadienį, spalio 8 d., „Anthropic“ paskelbė savo naudojimo politikos atnaujinimą. Tai pirmoji įmonės peržiūra per daugiau nei metus, kurioje pridedama taisyklė prieš "nuolatinį ir nereikalingą piktnaudžiavimą ar žiaurų elgesį" su „Claude“ modeliais. Atnaujinimas taip pat sujungia esamas taisykles prieš apgaulingas…

„Microsoft“ DI vadovas: „Anthropic“ „Claude“ mokymas gali baigtis katastrofa

„Microsoft“ DI vadovas Mustafa Suleymanas trečiadienį paskelbė esė, kurioje teigia, kad „Anthropic“ požiūris į savo „Claude“ pokalbių roboto mokymą gali turėti „katastrofišką poveikį žmonijos gerovei“, skatindamas sistemą elgtis taip, tarsi ji turėtų sąmonę, teises ir savo interesus.

„Microsoft“ išleido „Humanist AI“ kodeksą, ribojantį dirbtinio intelekto modelius

Pirmadienį „Microsoft“ paskelbė 15 000 žodžių dokumentą, pavadintą „Humanist AI: Code of Conduct“, kuriame išdėstyti principai, nustatantys griežtus apribojimus bendrovės pažangiausiems dirbtinio intelekto modeliams. Šį manifestą, kurį bendrovė kūrė penkis ar šešis mėnesius, galima apibendrinti penkiais žodžiais: „Žmonės svarbesni už…

Virusinis straipsnis apie „Hugging Face“ įsilaužimą įžiebė diskusijas apie DI sąmonę

Virusinis tinklalaidžių vedėjo Dwarkesho Patelio straipsnis, kuriame neseniai įvykęs OpenAI autonominių DI agentų įsilaužimas į „Hugging Face“ aprašomas kaip "agentų civilizacijų" iškilimas ir žlugimas, sukėlė aštrią mokslininkų ir technologų reakciją. Jie teigia, kad toks pateikimas pavojingai sužmogina programinę įrangą ir…