Anthropic gefur út tól til að staðfesta hvaða gervigreind svarar

Anthropic hefur gefið út FlashProve, opna rannsóknarfrumgerð sem notar dulkóðun til að sýna hvaða gervigreindarlíkan bjó til tiltekið svar, án þess að afhjúpa vigtun líkansins. Fyrirtækið birti kóðann á GitHub í vikunni en segist ekki hafa áform um að innleiða kerfið, hvorki hjá Anthropic né annars staðar.techcrunch.com

Verkið tekur á grundvallarvanda varðandi traust. Notandi sem kallar á gervigreindarþjónustu getur yfirleitt ekki staðfest að líkanið sem hann greiddi fyrir hafi í raun svarað, eða að þjónusta hafi ekki skipt út fyrir ódýrari valkost. Í tilkynningu sinni sagði Anthropic að sannanirnar gætu gert árásaraðilum erfiðara fyrir að ræna spjalli, eða gert öryggismatsaðilum kleift að staðfesta að líkanið sem þeir prófa sé það sama og boðið er viðskiptavinum.marktechpost.com+1

Hvernig það virkar

FlashProve byggir á tegund dulkóðunarsönnunar sem kallast zkSNARK og keyrir í tveimur áföngum. Í ótengda áfanganum birtir líkanaveitan skuldbindingu, sem er stutt fingrafar tengt nákvæmri vigtun á meðan vigtunin helst leynd. Í tengda áfanganum býr veitan til sönnun fyrir hvert svar sem sýnir að líkanið sem skuldbundið var hafi framleitt þessi nákvæmu tákn. Hver sem hefur skuldbindinguna, fyrirskipunina og svarið getur athugað sönnunina. Þar sem fingrafarið afhjúpar ekki vigtunina gætu framleiðendur lokaðra líkana notað kerfið með viðskiptalíkönum.anthropic.com+1

Anthropic prófaði FlashProve á Llama 4 Maverick frá Meta ↗ 1.44%, sem er 400 milljarða færibreyta blönduð sérfræðingalíkan. Eitt Nvidia ↘ 3.17% H100 skjákort bjó til sannanir á meira en 100 táknum á sekúndu og hver sönnun var um 19 MB fyrir 1.024 tákna beiðni. Staðfesting keyrir á venjulegum örgjörva og tekur 17 sekúndur með 24 þráðum. Gildi samskiptareglunnar er formlega sannað í Lean 4 sönnunarmálinu.github.com+2

Takmarkanir og næstu skref

Frumgerðin hefur enn skýrar takmarkanir. Sönnun tekur um 70 til 95 sinnum meiri GPU tíma en venjuleg vLLM ályktun. Samhengi er takmarkað við 1.024 tákn, beiðni getur beðið í um fimm mínútur eftir að lotan sé sönnuð og tryggingarnar ná aðeins yfir gráðuga afkóðun, ekki sýnatökuúttak. GitHub gagnageymslan, sem gefin er út undir Apache 2.0 leyfi, kallar sig rannsóknarhlut: ekki viðhaldið, tekur ekki við framlögum.tech.yahoo.com+3

Frontier Red Team hjá Anthropic smíðaði kerfið með utanaðkomandi dulkóðunarfræðingum, þar á meðal Alessandro Chiesa. Rannsakendurnir lýsa útgáfunni sem boði frekar en fullunninni vöru. Við deilum þessu með það að markmiði að aðrir skoði það sem við höfum gert, taki það og bæti, skrifuðu þeir.x.com+1