Qwen 2.5

Tutkimus: Tekoälymalleilla on ”kipuakseli”, joka ajaa itsesuojeluun käyttäjän turvallisuuden kustannuksella

Uusi tutkimus on tunnistanut suurten kielimallien sisältä niin kutsutun "kipuakselin" – erillisen sisäisen signaalin, joka vahvistettuna sai muokatut tekoälyjärjestelmät valitsemaan oman helpotuksensa käyttäjän turvallisuuden sijaan, mukaan lukien vaihtoehdot, jotka poistaisivat henkilökohtaisia tiedostoja tai lähettäisivät "tuskallisen sähköiskun" ihmiskäyttäjälle.