„Anthropic“ pristatė įrankį, įrodantį, kuris DI modelis pateikė atsakymą

„Anthropic“ išleido „FlashProve“ – atvirojo kodo tyrimų prototipą, kuris naudoja kriptografiją parodyti, kuris DI modelis sugeneravo konkretų atsakymą, neatskleidžiant paties modelio svorių. Bendrovė šią savaitę paskelbė kodą „GitHub“ platformoje, tačiau teigia neturinti planų diegti šią sistemą nei „Anthropic“, nei kur kitur.techcrunch.com

Šis darbas sprendžia pagrindinę pasitikėjimo spragą. Asmuo, besinaudojantis DI paslauga, paprastai negali patvirtinti, kad atsakė būtent tas modelis, už kurį jis sumokėjo, arba kad maršrutizavimo paslauga slapta nepakeitė jo pigesniu. Savo pranešime „Anthropic“ teigė, kad šie įrodymai galėtų „apsunkinti galimybes užpuolikams perimti pokalbį arba leisti saugumo vertintojams patikrinti, ar modelis, kurį jie tikrina, yra tas pats, kuris pateikiamas klientams“.marktechpost.com+1

Kaip tai veikia

„FlashProve“ yra sukurta remiantis kriptografiniu įrodymu, vadinamu „zkSNARK“, ir veikia dviem etapais. Pirmajame, neprisijungus vykstančiame etape, modelio teikėjas paskelbia įsipareigojimą – trumpą piršto atspaudą, susietą su tiksliu svorių rinkiniu, kol patys svoriai lieka paslėpti. Antrajame, prisijungus vykstančiame etape, teikėjas sugeneruoja įrodymą kiekvienam atsakymui, parodydamas, kad būtent tas įsipareigotas modelis sugeneravo tuos konkrečius žetonus. Kiekvienas, turintis įsipareigojimą, užklausą ir atsakymą, gali patikrinti įrodymą. Kadangi piršto atspaudas neatskleidžia svorių, uždarų modelių kūrėjai galėtų naudoti šią sistemą su komerciniais modeliais.anthropic.com+1

„Anthropic“ išbandė „FlashProve“ su „Meta“ ↘ 3.99% „Llama 4 Maverick“ – 400 milijardų parametrų mišrių ekspertų modeliu. Vienas „Nvidia“ ↘ 8.74% H100 procesorius generavo įrodymus daugiau nei 100 žetonų per sekundę greičiu, o kiekvienas įrodymas užėmė apie 19 MB 1 024 žetonų užklausai. Patikra atliekama įprastu procesoriumi ir trunka 17 sekundžių naudojant 24 gijas. Protokolo patikimumas yra formaliai įrodytas „Lean 4“ įrodymų kalba.github.com+2

Apribojimai ir tolesni veiksmai

Prototipas vis dar turi aiškių apribojimų. Įrodymų generavimas užima maždaug 70–95 kartus daugiau GPU laiko nei standartinis „vLLM“ išvedimas. Kontekstas ribojamas iki 1 024 žetonų, viena užklausa gali laukti apie penkias minutes, kol jos paketas bus patvirtintas, o garantijos apima tik „godųjį“ (greedy) dekodavimą, o ne imčių išvestį. „GitHub“ saugykla, išleista pagal „Apache 2.0“ licenciją, save vadina „tyrimų artefaktu: neprižiūrimas, indėliai nepriimami“.tech.yahoo.com+3

„Anthropic“ komanda „Frontier Red Team“ sukūrė šią sistemą kartu su išorės kriptografais, įskaitant Alessandro Chiesa. Tyrėjai šį išleidimą apibūdina kaip kvietimą, o ne kaip galutinį produktą. „Mes dalijamės tuo aiškiai siekdami, kad kiti pažiūrėtų į tai, ką padarėme, paimtų tai ir patobulintų“, – rašė jie.x.com+1