Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]
All voices matter
Anthropic julkaisi työkalun, jolla voi todentaa vastanneen tekoälymallin
- Anthropicin Frontier Red Team on julkaissut FlashProve-nimisen avoimen lähdekoodin kirjaston, jonka avulla tekoälypalveluiden tarjoajat voivat todistaa vastauksen tulleen tietyn mallin painoarvoista, kertoo tutkimusjulkaisu
anthropic.com+1. - Metan Llama 4 Maverick -mallilla tehdyissä testeissä yksi Nvidian H100-näytönohjain tuotti todisteita yli 100 tokenin sekuntinopeudella
anthropic.com. - Anthropicin mukaan ylläpitämättömälle prototyypille ei ole käyttöönottosuunnitelmia, ja se kuluttaa noin 70–95 kertaa enemmän GPU-aikaa kuin tavallinen päättely, joten yhtiö kutsuu muita kehittämään sitä eteenpäin
techcrunch.com+1.
Anthropic on julkaissut FlashProven, avoimen lähdekoodin tutkimusprototyypin, joka käyttää kryptografiaa osoittamaan, mikä tekoälymalli on tuottanut tietyn vastauksen paljastamatta mallin painoarvoja. Yhtiö julkaisi koodin GitHubissa tällä viikolla, mutta toteaa, ettei sillä ole suunnitelmia järjestelmän käyttöönottoon Anthropicilla tai muuallakaan.techcrunch.com
Työ vastaa perustavanlaatuiseen luottamusongelmaan. Tekoälypalvelun käyttäjä ei yleensä voi varmistaa, että juuri se malli, josta hän on maksanut, on todella vastannut, tai ettei reitityspalvelu ole salaa vaihtanut sitä halvempaan malliin. Julkistuksessaan Anthropic totesi, että todisteet voisivat "vaikeuttaa hyökkääjien mahdollisuuksia kaapata keskustelu tai mahdollistaa turvallisuusarvioijille sen varmistamisen, että testattava malli on sama, jota asiakkaille tarjotaan".marktechpost.com+1
Miten se toimii
FlashProve perustuu zkSNARK-nimiseen kryptografiseen todistusmenetelmään ja toimii kahdessa vaiheessa. Offline-vaiheessa mallin tarjoaja julkaisee sitoumuksen, joka on lyhyt sormenjälki, joka on sidottu tarkkaan painoarvojen joukkoon niiden pysyessä piilossa. Online-vaiheessa tarjoaja luo jokaiselle vastaukselle todisteen, joka osoittaa, että sitoumuksen mukainen malli tuotti kyseiset tokenit. Kuka tahansa, jolla on sitoumus, kehotteet ja vastaus, voi tarkistaa todisteen. Koska sormenjälki ei paljasta painoarvoja, suljettujen mallien kehittäjät voisivat käyttää järjestelmää kaupallisten mallien kanssa.anthropic.com+1
Anthropic testasi FlashProvetta Metan Llama 4 Maverick -mallilla, joka on 400 miljardin parametrin mixture-of-experts -malli. Yksi Nvidia H100 tuotti todisteita yli 100 tokenin sekuntinopeudella, ja jokainen todiste oli noin 19 megatavua 1 024 tokenin pyynnölle. Todennus suoritetaan tavallisella suorittimella ja se vie 17 sekuntia 24 säikeellä. Protokollan luotettavuus on todistettu muodollisesti Lean 4 -todistuskielellä.github.com+2
Rajoitukset ja jatkotoimenpiteet
Prototyypillä on edelleen selkeitä rajoituksia. Todistaminen vie noin 70–95 kertaa enemmän GPU-aikaa kuin tavallinen vLLM-päättely. Konteksti on rajoitettu 1 024 tokeniin, yksittäinen pyyntö voi joutua odottamaan noin viisi minuuttia erän todentamista, ja takuut kattavat vain ahneen dekoodauksen, eivät otannalla tuotettua tulosta. Apache 2.0 -lisenssillä julkaistu GitHub-arkisto kuvailee itseään "tutkimusartefaktiksi: ei ylläpidetä, ei oteta vastaan kontribuutioita".tech.yahoo.com+3
Anthropicin Frontier Red Team rakensi järjestelmän yhdessä ulkopuolisten kryptografien, kuten Alessandro Chiesan, kanssa. Tutkijat kuvailevat julkaisua kutsuksi pikemminkin kuin valmiiksi tuotteeksi. "Jaamme tämän nimenomaan siinä tarkoituksessa, että muut katsovat mitä olemme tehneet, ottavat sen ja parantavat sitä", he kirjoittivat.x.com+1
Lähteet (12)
- 1 Progress on provable inference for large language models www.anthropic.com
- 2 GitHub - anthropics/FlashProve: A research prototype for zero-knowledge proofs of AI inference. Not maintained. github.com
- 3 Anthropic is working on a system to prove AI models' identity techcrunch.com
- 4 Anthropic Releases FlashProve: Cryptographic Proofs That a Reply Came From Committed Weights www.marktechpost.com
- 5 New Anthropic research x.com
- 6 Anthropic Unveils FlashProve for Proving Which Model Answered You tech.yahoo.com
- 7 Anthropic Releases FlashProve for Cryptographic AI Inference ... www.europesays.com
- 8 Progress on provable inference for large language models | TLDR tldr.tech
- 9 Anthropic's FlashProve Wants a Receipt for Every AI Answer — Explained Honestly dev.to
- 10 AI Hub Daily Briefing aihub.com
- 11 Anthropic is working on an open-source system to verify AI model outputs mezha.net
- 12 Anthropic releases open source FlashProve to cryptographically verify model origin www.newsbytesapp.com
