Anthropic-ը Claude Code-ը կտեղափոխի ավտոմատ ռեժիմի՝ կրճատելով հաստատման հարցումները

Anthropic-ը ուրբաթ օրը հայտարարեց, որ Claude Code-ի ավտոմատ ռեժիմը օգոստոսի 14-ից կդառնա լռելյայն կարգավորում Pro, Max և Team հաշիվների նոր սեսիաների համար՝ փոխարինելով ձեռքով հաստատման հարցումները, որոնք ծրագրավորողները երկար ժամանակ հաստատում էին առանց լուրջ ուշադրության: Այս փոփոխությունը թույլտվությունների ընթացիկ որոշումները փոխանցում է հատուկ դասակիչին, որը գնահատում է յուրաքանչյուր գործիքի կանչ և միջամտում է միայն այն դեպքում, երբ գործողությունը համարվում է անդառնալի, կործանարար կամ ուղղված է օգտատիրոջ միջավայրից դուրս:techcrunch+1

Ձեռքով վերանայման դեմ հիմնավորումները

Փոփոխության հիմքում ընկած է այն, ինչ Anthropic-ը նկարագրում է որպես հաստատման հոգնածություն: Ընկերության տվյալներով՝ օգտատերերը հաստատում են Claude Code-ի թույլտվությունների հարցումների 97%-ը, ինչը հուշում է, որ անվտանգության մեխանիզմը դարձել էր ինքնաբերական, այլ ոչ թե պաշտպանիչ: Ներքին տելեմետրիան հաստատում է այս օրինաչափությունը. հունիսի դրությամբ օգտատերերի 62%-ը փորձել էր շրջանցել թույլտվությունները կամ ընտրել էր «այլևս չհարցնել» տարբերակը Bash հրամանների համար, իսկ CLI-ի ակտիվ օգտատերերի 49.5%-ը ստեղծել էր Bash-ի թույլտվության կանոն:techi+1

1,053 վճարովի փորձարկողների մասնակցությամբ հետազոտության ընթացքում Anthropic-ը սովորական հարցումների շարքում տեղադրել էր ակնհայտորեն վտանգավոր հրաման: Ավտոմատ ռեժիմը արգելափակել է այդ հրամանների 89%-ը, մինչդեռ մարդ փորձարկողները մերժել են ընդամենը 13.6%-ը: Մարդկանց զգոնությունն ավելի է նվազել սեսիաների երկարելուն զուգընթաց՝ իջնելով մոտ 5%-ի 50 կամ ավելի հարցումներից հետո:techcrunch+2

Claude Code-ի ղեկավար Բորիս Չերնին X-ում գրել է, որ իր թիմը «բազմաթիվ ամիսներ» օգտագործել է բացառապես ավտոմատ ռեժիմը և չի կարող պատկերացնել վերադարձը թույլտվությունների հարցումներին:techcrunch

Մնացորդային ռիսկեր և անկախ թեստավորում

Արգելափակման 89% ցուցանիշը թողնում է 11% բացթողման մակարդակ. 1,053 ներդրված հրամաններից 116-ն անցել են չնկատված: Apollo Research-ի հետ իրականացված առանձին սինթետիկ մրցակցային գնահատումը դասակիչի ուժեղացումից հետո բացթողման մակարդակը իջեցրեց 7%-ի, թեև Anthropic-ը նշեց, որ այդ ցուցանիշը ստացվել է դիտավորյալ թշնամական տվյալների բազայից և իրական հոսքի չափում չէ:techi

Հրամանների ներարկման (prompt injection) վերաբերյալ Anthropic-ը պատվիրել է Trajectory Labs-ին իրականացնել 720 անուղղակի ներարկման հարձակում Claude Fable 5, Opus 5 և Sonnet 5 մոդելների դեմ ավտոմատ ռեժիմում: Ոչ մի հարձակում չի հաջողվել: Այնուամենայնիվ, ծրագրավորող և հետազոտող Սայմոն Վիլիսոնը զգուշացրել է, որ ընտրված սցենարներում զրոյական հաջողության ցուցանիշը չի երաշխավորում դիմակայունություն մատակարարման շղթայի տիպի հարձակումների նկատմամբ, ինչպիսիք են երրորդ կողմի վնասակար փաթեթները, որոնք հրահանգում են գործակալին ներբեռնել և գործարկել լրացուցիչ ֆայլեր:cryptonomist

Պաշտպանիչ մեխանիզմներ և շրջանակ

Երբ ավտոմատ ռեժիմն արգելափակում է գործողությունը, Claude-ը փորձում է ավելի անվտանգ այլընտրանք կամ խնդրում է հստակ թույլտվություն: Ինտերակտիվ սեսիայում անընդմեջ երեք կամ ընդհանուր 20 մերժում ստանալու դեպքում գործիքը վերադառնում է ձեռքով հաստատման ռեժիմին, իսկ առանց օգտատիրոջ միջամտության (headless) գործարկումները դրանից հետո դադարեցվում են: Թիմերը կարող են էլ ավելի խստացնել վերահսկողությունը՝ սահմանելով հստակ պահանջի կանոններ այնպիսի գործողությունների համար, ինչպիսիք են push-երը կամ pull request-ները, և արգելման կանոններ, որոնք հնարավոր չէ շրջանցել:techi

Anthropic-ը հաստատել է, որ Pro, Max և Team օգտատերերից լրացուցիչ վճար չի գանձի այն փոքր թոքենային ծախսի համար, որը դասակիչն ավելացնում է յուրաքանչյուր գործիքի կանչի ժամանակ: Amazon Web Services-ի Amazon.com, Inc. ↗ 0.82%, Google Cloud Alphabet Inc. ↘ 0.88% և Microsoft ↗ 0.03% Foundry-ի էնթերփրայզ, API և պլատֆորմային ներդրումները մնում են ըստ ցանկության միացվող (opt-in), քանի դեռ նախապատրաստվում է ավելի լայն տարածումը:cryptonomist+1