GPT-4

OpenAIn uusi Astra-malli huolestuttaa turvallisuustutkijoita: Päättelyketju jää piiloon

OpenAIn tuleva Astra-malli hyödyntää arkkitehtuuria nimeltä "toistuva syvyys" (recurrent depth). Sen ansiosta malli voi käsitellä tietoa saman neuroverkkokerroksen läpi useita kertoja ennen vastauksen tuottamista. Tämä parantaa suorituskykyä mutta samalla hämärtää päättelyketjua, johon turvallisuustutkijat tukeutuvat valvoessaan kehittyneitä tekoälyjärjestelmiä. The Information -lehden…