Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]

anthropic.com+1:anthropic.com:techcrunch.com+1:Anthropic-ը թողարկել է FlashProve-ը՝ բաց կոդով հետազոտական նախատիպ, որն օգտագործում է կրիպտոգրաֆիա՝ ցույց տալու համար, թե որ AI մոդելն է տվել տվյալ պատասխանը՝ առանց մոդելի կշիռները բացահայտելու: Ընկերությունը կոդը հրապարակել է GitHub-ում այս շաբաթ, սակայն նշում է, որ համակարգը ներդնելու ծրագրեր չունի ոչ Anthropic-ում, ոչ էլ այլուր:techcrunch.com
Այս աշխատանքը լուծում է վստահության հիմնարար խնդիրը: AI ծառայությունից օգտվողը սովորաբար չի կարող հաստատել, որ պատասխանը հենց այն մոդելն է տվել, որի համար վճարել է, կամ որ ծառայությունը գաղտնի չի փոխարինել այն ավելի էժան տարբերակով: Իր հայտարարության մեջ Anthropic-ը նշում է, որ ապացույցները կարող են "դժվարացնել չաթի առևանգումը հարձակվողների համար կամ հնարավորություն տալ անվտանգության գնահատողներին ստուգել, որ մոդելը, որը նրանք թեստավորում են, նույնն է, ինչ մատուցվում է հաճախորդներին":marktechpost.com+1
FlashProve-ը կառուցված է zkSNARK կոչվող կրիպտոգրաֆիկ ապացույցի տեսակի վրա և աշխատում է երկու փուլով: Օֆլայն փուլում մոդելի մատակարարը հրապարակում է պարտավորություն, որը կարճ մատնահետք է՝ կապված կշիռների հստակ հավաքածուի հետ, մինչդեռ բուն կշիռները մնում են թաքնված: Օնլայն փուլում մատակարարը յուրաքանչյուր պատասխանի համար ստեղծում է ապացույց, որը ցույց է տալիս, որ հենց այդ մոդելն է ստեղծել այդ թոքենները: Յուրաքանչյուր ոք, ով ունի պարտավորությունը, հուշումը և պատասխանը, կարող է ստուգել ապացույցը: Քանի որ մատնահետքը չի բացահայտում կշիռները, փակ մոդելներ ստեղծողները կարող են օգտագործել այս համակարգը առևտրային մոդելների հետ:anthropic.com+1
Anthropic-ը FlashProve-ը փորձարկել է Meta-ի Llama 4 Maverick-ի վրա, որը 400 միլիարդ պարամետր ունեցող մոդել է: Մեկ Nvidia H100-ը վայրկյանում 100-ից ավելի թոքենի արագությամբ ապացույցներ է ստեղծել, և յուրաքանչյուր ապացույց կազմել է մոտ 19 ՄԲ՝ 1024-թոքենանոց հարցման համար: Վերիֆիկացիան կատարվում է սովորական CPU-ի վրա և 24 հոսքով տևում է 17 վայրկյան: Արձանագրության հուսալիությունը պաշտոնապես ապացուցված է Lean 4 լեզվով:github.com+2
Նախատիպը դեռևս ունի հստակ սահմանափակումներ: Ապացույցների ստեղծումը պահանջում է ստանդարտ vLLM ինֆերենսի GPU ժամանակի մոտ 70-ից 95 անգամ ավելին: Համատեքստը սահմանափակված է 1024 թոքենով, մեկ հարցումը կարող է մոտ հինգ րոպե սպասել իր խմբաքանակի ապացուցմանը, և երաշխիքները վերաբերում են միայն greedy դեկոդավորմանը, այլ ոչ թե ընտրանքային ելքին: GitHub-ի պահոցը, որը թողարկված է Apache 2.0 լիցենզիայով, իրեն անվանում է "հետազոտական արտեֆակտ. չի պահպանվում և չի ընդունում ներդրումներ":tech.yahoo.com+3
Anthropic-ի Frontier Red Team-ը համակարգը ստեղծել է արտաքին կրիպտոգրաֆների հետ, այդ թվում՝ Ալեսանդրո Կիեզայի հետ: Հետազոտողները այս թողարկումը անվանում են հրավեր, այլ ոչ թե ավարտված արտադրանք: "Մենք սա կիսում ենք հստակ այն նպատակով, որ ուրիշները նայեն մեր արածին, վերցնեն և բարելավեն այն", — գրել են նրանք:x.com+1