Anthropic, AI modelinin yanıtını doğrulayan bir araç yayınladı

Anthropic, modelin ağırlıklarını açıklamadan belirli bir yanıtın hangi AI modeli tarafından üretildiğini göstermek için kriptografi kullanan açık kaynaklı bir araştırma prototipi olan FlashProve'u yayınladı. Şirket kodu bu hafta GitHub'da paylaştı ancak sistemin Anthropic'te veya başka bir yerde dağıtılmasına dair bir planı olmadığını belirtti.techcrunch.com

Bu çalışma, temel bir güven boşluğunu hedefliyor. Bir AI hizmetini kullanan kişi, genellikle ödeme yaptığı modelin gerçekten yanıt verip vermediğini veya bir yönlendirme hizmetinin sessizce daha ucuz bir modelle değiştirip değiştirmediğini doğrulayamaz. Anthropic, duyurusunda kanıtların "saldırganların bir sohbeti ele geçirmesini zorlaştırabileceğini veya güvenlik değerlendiricilerinin test ettikleri modelin müşterilere sunulanla aynı olduğunu doğrulamalarını sağlayabileceğini" belirtti.marktechpost.com+1

Nasıl çalışır

FlashProve, zkSNARK adı verilen bir kriptografik kanıt türü üzerine inşa edilmiştir ve iki aşamada çalışır. Çevrimdışı aşamada, model sağlayıcısı, ağırlıklar gizli kalırken tam bir ağırlık setiyle bağlantılı kısa bir parmak izi olan bir taahhüt yayınlar. Çevrimiçi aşamada, sağlayıcı her yanıt için o belirli modelin bu tokenları ürettiğini gösteren bir kanıt oluşturur. Taahhüde, isteme ve yanıta sahip olan herkes kanıtı kontrol edebilir. Parmak izi ağırlıkları açığa çıkarmadığı için, kapalı model üreticileri sistemi ticari modellerle kullanabilir.anthropic.com+1

Anthropic, FlashProve'u Meta'nın ↘ 4.40% Llama 4 Maverick adlı 400 milyar parametreli uzmanlar karışımı modeli üzerinde test etti. Tek bir Nvidia ↘ 8.58% H100, saniyede 100'den fazla token hızında kanıt üretti ve her kanıt 1.024 tokenlik bir istek için yaklaşık 19 MB boyutundaydı. Doğrulama işlemi sıradan bir CPU üzerinde çalışır ve 24 iş parçacığı ile 17 saniye sürer. Protokolün sağlamlığı, Lean 4 kanıt dilinde resmi olarak kanıtlanmıştır.github.com+2

Sınırlar ve sonraki adımlar

Prototipin hala belirgin sınırları var. Kanıtlama işlemi, standart vLLM çıkarımının GPU süresinin yaklaşık 70 ila 95 katını alır. Bağlam 1.024 token ile sınırlıdır, tek bir istek toplu işleminin kanıtlanması için yaklaşık beş dakika bekleyebilir ve garantiler yalnızca greedy kod çözmeyi kapsar, örneklenmiş çıktıyı değil. Apache 2.0 lisansı altında yayınlanan GitHub deposu, kendisini "bir araştırma eseri: bakımı yapılmıyor, katkı kabul edilmiyor" olarak tanımlıyor.tech.yahoo.com+3

Anthropic'in Frontier Red Team ekibi, sistemi Alessandro Chiesa dahil olmak üzere dış kriptograflarla birlikte inşa etti. Araştırmacılar, sürümü bitmiş bir üründen ziyade bir davet olarak tanımlıyor. "Bunu açıkça, başkalarının yaptıklarımıza bakması, alması ve geliştirmesi amacıyla paylaşıyoruz" diye yazdılar.x.com+1