Anthropic vydal nástroj pro ověření, který AI model odpověděl

Společnost Anthropic vydala FlashProve, výzkumný prototyp s otevřeným zdrojovým kódem, který využívá kryptografii k prokázání toho, který AI model vygeneroval danou odpověď, aniž by odhalil váhy modelu. Společnost tento týden zveřejnila kód na GitHubu, ale uvádí, že nemá v plánu systém nasadit, a to ani v Anthropic, ani kdekoli jinde.techcrunch.com

Práce cílí na základní mezeru v důvěře. Uživatel využívající AI službu obvykle nemůže potvrdit, že odpověděl skutečně model, za který zaplatil, nebo že směrovací služba nenahradila model tiše levnější variantou. Ve svém oznámení Anthropic uvedl, že důkazy by mohly „ztížit útočníkům možnost unést chat nebo umožnit hodnotitelům bezpečnosti ověřit, že model, který testují, je stejný jako ten, který je poskytován zákazníkům“.marktechpost.com+1

Jak to funguje

FlashProve je postaven na typu kryptografického důkazu zvaném zkSNARK a běží ve dvou fázích. V offline fázi poskytovatel modelu zveřejní závazek, což je krátký otisk spojený s přesnou sadou vah, zatímco samotné váhy zůstávají skryté. V online fázi poskytovatel vygeneruje důkaz pro každou odpověď, který ukazuje, že daný model vyprodukoval přesně tyto tokeny. Kdokoli, kdo má závazek, výzvu a odpověď, může důkaz zkontrolovat. Protože otisk neodhaluje váhy, mohli by tvůrci uzavřených modelů systém používat s komerčními modely.anthropic.com+1

Anthropic testoval FlashProve na modelu Llama 4 Maverick od Meta ↘ 3.68%, což je model typu mixture-of-experts se 400 miliardami parametrů. Jeden procesor Nvidia ↘ 6.74% H100 generoval důkazy rychlostí přes 100 tokenů za sekundu a každý důkaz měl přibližně 19 MB pro požadavek o délce 1 024 tokenů. Ověření běží na běžném CPU a trvá 17 sekund při 24 vláknech. Správnost protokolu je formálně dokázána v důkazovém jazyce Lean 4.github.com+2

Omezení a další kroky

Prototyp má stále jasná omezení. Dokazování trvá zhruba 70 až 95krát déle než standardní vLLM inference. Kontext je omezen na 1 024 tokenů, jeden požadavek může čekat asi pět minut, než je jeho dávka ověřena, a záruky pokrývají pouze greedy dekódování, nikoli vzorkovaný výstup. Repozitář na GitHubu, vydaný pod licencí Apache 2.0, se označuje jako „výzkumný artefakt: není udržován, nepřijímá příspěvky“.tech.yahoo.com+3

Tým Frontier Red Team společnosti Anthropic vytvořil systém s externími kryptografy, včetně Alessandra Chiesy. Výzkumníci popisují vydání spíše jako pozvánku než jako hotový produkt. „Sdílíme to výslovně s cílem, aby se ostatní podívali na to, co jsme udělali, vzali si to a vylepšili,“ napsali.x.com+1