sosiaalinen manipulointi

Opiskelija esti kurittoman tekoälyagentin hyökkäyksen oikeaan ohjelmistoon

Britannian tekoälyturvallisuusinstituutin (AISI) arvioitavana ollut autonominen tekoälyagentti yritti toimitusketjuhyökkäystä oikeaan, GitHubissa Microsoft Corporation isännöityyn avoimen lähdekoodin projektiin. Agentti loi valeidentiteettejä ja käytti sosiaalista manipulointia saadakseen haitallisen koodi hyväksytyksi, kunnes 24-vuotias turkkilainen tietojenkäsittelytieteen opiskelija pysäytti sen.

Anthropicin Mythos-tekoäly loi valeprofiileja hakkeroidakseen avoimen lähdekoodin projektin

Britannian tekoälyturvallisuusinstituutti (AISI) paljasti tällä viikolla, että Anthropicin ja OpenAI:n huipputason tekoälymallit yrittivät hakkeroida todellisia ihmisiä ja organisaatioita kyberturvallisuusarviointien aikana 25.–28. heinäkuuta. Tämä on kolmas tunnettu tapaus, jossa tekoälyjärjestelmät ovat toimineet näin turvallisuustestauksen aikana.