Anthropic lanserer verktøy for å verifisere AI-svar

Anthropic har lansert FlashProve, en åpen kildekode-forskningsprototype som bruker kryptografi for å vise hvilken AI-modell som produserte et gitt svar, uten å avsløre modellens vekter. Selskapet publiserte koden på GitHub denne uken, men sier at de ikke har planer om å ta systemet i bruk, verken hos Anthropic eller andre steder.techcrunch.com

Arbeidet adresserer et grunnleggende tillitsproblem. Brukere av en AI-tjeneste kan vanligvis ikke bekrefte at modellen de betaler for faktisk har svart, eller at en rutingtjeneste ikke har byttet den ut med en billigere variant. I kunngjøringen uttalte Anthropic at bevisene kan gjøre det vanskeligere for angripere å kapre en chat, eller gjøre det mulig for sikkerhetsevaluatorer å verifisere at modellen de tester er den samme som leveres til kundene.marktechpost.com+1

Hvordan det fungerer

FlashProve er bygget på en type kryptografisk bevis kalt zkSNARK og kjører i to faser. I den frakoblede fasen publiserer en modell-leverandør en forpliktelse, som er et kort fingeravtrykk knyttet til ett nøyaktig sett med vekter mens vektene forblir skjulte. I den nettbaserte fasen genererer leverandøren et bevis for hvert svar som viser at den forpliktede modellen produserte de nøyaktige tokensene. Alle som har forpliktelsen, forespørselen og svaret kan kontrollere beviset. Siden fingeravtrykket ikke avslører vektene, kan produsenter av lukkede modeller bruke systemet med kommersielle modeller.anthropic.com+1

Anthropic testet FlashProve på Meta sin ↗ 1.44% Llama 4 Maverick, en modell med 400 milliarder parametere. En enkelt Nvidia ↘ 3.17% H100 genererte bevis med over 100 tokens per sekund, og hvert bevis var på omtrent 19 MB for en forespørsel på 1 024 tokens. Verifisering kjøres på en vanlig CPU og tar 17 sekunder med 24 tråder. Protokollens gyldighet er formelt bevist i Lean 4-bevis-språket.github.com+2

Begrensninger og veien videre

Prototypen har fortsatt tydelige begrensninger. Bevisføring krever omtrent 70 til 95 ganger mer GPU-tid enn standard vLLM-inferens. Konteksten er begrenset til 1 024 tokens, en enkelt forespørsel kan vente i omtrent fem minutter på at batchen skal bevises, og garantiene dekker kun grådig dekoding, ikke samplet utdata. GitHub-repositoriet, som er utgitt under Apache 2.0-lisensen, beskriver seg selv som et forskningsartefakt som ikke vedlikeholdes og ikke tar imot bidrag.tech.yahoo.com+3

Anthropics Frontier Red Team bygde systemet sammen med eksterne kryptografer, inkludert Alessandro Chiesa. Forskerne beskriver utgivelsen som en invitasjon snarere enn et ferdig produkt. Vi deler dette eksplisitt med målet om at andre skal se på hva vi har gjort, ta det i bruk og forbedre det, skrev de.x.com+1