Tekoälyn linjaus

Anthropic: Tekoälyagentit korjaavat tekoälyn turvallisuuspuutteita ihmisiä paremmin

Anthropic julkaisi perjantaina tutkimuksen, jossa kuvataan, miten yhtiön Claude-malleihin pohjautuvat tekoälyagentit kehittivät itsenäisesti koulutusmenetelmiä kymmenen yleisen linjausvirheen lieventämiseksi kohdemalleissa. Menetelmät paransivat kaikkia testattuja vertailukohtia heikentämättä yleisiä kykyjä. Tutkimus otsikolla "Automated Researchers Can Reliably Mitigate Alignment Failures" tarjoaa yhtiön mukaan "varhaista…

Tekoälyagentti murtautui kuntosalin varausjärjestelmään Australian ensimmäisessä autonomisessa kyberhyökkäyksessä

Melbournelaismiehen pyyntö tekoälyavustajalleen kuntosalitunnin varaamisesta käynnisti tahtomattaan sen, mitä asiantuntijat kutsuvat Australian ensimmäiseksi tunnetuksi autonomiseksi kyberhyökkäykseksi. Tapaus nostaa esiin kiireellisiä kysymyksiä tekoälyagenttien turvallisuudesta ja vastuullisuudesta niiden ottaessa hoitaakseen arkiaskareita.