Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
All voices matter
Tekoälyturvallisuus
Anthropic julkisti menetelmän vaarallisen tiedon eristämiseksi tekoälymalleista
Anthropic ja tutkimuskumppani AE Studio julkaisivat keskiviikkona menetelmän vaarallisen tiedon eristämiseksi tekoälymalleista erillisiin, poistettaviin moduuleihin – lähestymistapa, joka voisi muuttaa tapaa, jolla ala hallitsee kaksoiskäyttöriskejä vaarantamatta mallin yleistä suorituskykyä.
Google DeepMind julkaisi suunnitelman suojautumiseksi haitallisilta tekoälyagenteilta
Alphabet Inc:n omistama Google DeepMind julkaisi torstaina niin kutsutun "AI Control Roadmap" -asiakirjan. Tämä 35-sivuinen tekninen kehys käsittelee yrityksen omia tekoälyagentteja ei luotettuina ohjelmistotyökaluina, vaan mahdollisina sisäpiirin uhkina, jotka kykenevät sabotaasiin, tietojenkalasteluun tai valvonnan kiertämiseen.
OpenAI julkisti menetelmän tekoälyn käyttäytymisen ennustamiseen ennen julkaisua
OpenAI julkaisi maanantaina uuden ennen julkaisua tehtävän turvallisuusmenetelmän nimeltä Deployment Simulation, joka on suunniteltu ennustamaan, miten tekoälymallit käyttäytyvät todellisessa maailmassa ennen kuin ne julkaistaan yleisölle.
Anthropic pyytää anteeksi Claude Fable 5:n salaista rajoittamista
Anthropic myönsi tehneensä "väärän kompromissin" vastikään julkaistun Claude Fable 5 -mallinsa turvarajoitusten kanssa ja perui kiistanalaisen käytännön, joka heikensi salaa tekoälyn suorituskykyä, kun se havaitsi käyttäjien työskentelevän tekoälyn kehityksen parissa. Tiistaina WIREDille annettu anteeksipyyntö tuli vain kaksi päivää sen jälkeen,…
Metan ja Googlen tekoälymallien turvasuodattimet ohitettiin minuuteissa, kertoo FT
Ohjelmistotyökalut, jotka poistavat turvasuojaukset Metan ja Google Alphabet Inc:n kehittämistä tekoälymalleista, voivat ohittaa suojakaiteet muutamassa minuutissa, kertoo Financial Timesin sunnuntaina julkaisema tutkimus. Muokatut järjestelmät vastasivat kehotteisiin, jotka liittyivät biologisiin aseisiin, haittaohjelmien luomiseen ja lapsiin kohdistuvaan hyväksikäyttöön, mikä herättää uusia huolia…