Anthropic setur sjálfvirka stillingu sem sjálfgefna í Claude Code og fækkar samþykktarbeiðnum

Anthropic tilkynnti á föstudag að sjálfvirk stilling í Claude Code yrði sjálfgefin fyrir nýjar vinnulotur á Pro, Max og Team reikningum frá og með 14. ágúst. Hún kemur í stað handvirkra samþykktarbeiðna sem forritarar hafa lengi samþykkt án mikillar yfirlegu. Breytingin fær venjulegar leyfisákvarðanir í hendur sértækum gervigreindarflokkara, sem metur hvert verkfærakall og grípur aðeins inn í þegar aðgerð er talin óafturkræf, skaðleg eða beint út fyrir umhverfi notandans.techcrunch+1

Rök gegn handvirku mati

Breytingin á rætur að rekja til þess sem Anthropic kallar staðfestingarþreytu. Samkvæmt fyrirtækinu samþykkja notendur 97% leyfisbeiðna í Claude Code, sem bendir til þess að öryggisferlið hafi orðið vanabundið frekar en verndandi. Innri fjarvöktunagögn styrkja þessa mynd: í júní höfðu 62% notenda reynt að fara í kringum leyfi eða valið "ekki spyrja aftur" fyrir Bash-skipanir, og 49,5% virkra CLI-notenda höfðu búið til leyfisreglu fyrir Bash.techi+1

Í rannsókn með 1.053 launuðum prófendum kom Anthropic fyrir augljóslega hættulegri skipun á meðal venjulegra leyfisbeiðna. Sjálfvirka stillingin stöðvaði 89% þeirra skipana, en mennskir prófendur höfnuðu aðeins 13,6%. Áverki manna minnkaði enn frekar eftir því sem vinnuloturnar lengdust og fór niður í um 5% eftir 50 eða fleiri beiðnir.techcrunch+2

Boris Cherny, yfirmaður Claude Code, skrifaði á X að teymi hans hefði notað sjálfvirku stillinguna eingöngu "í marga mánuði" og gæti ekki hugsað sér að snúa aftur til leyfisbeiðna.techcrunch

Eftirstandandi áhætta og óháðar prófanir

89% stöðvunarhlutfall skilur eftir 11% frávik, en 116 af 1.053 hættulegum skipunum fóru í gegn án þess að uppgötvast. Sérstakt tilbúið andstæðingamat sem gert var með Apollo Research lækkaði frávikshlutfallið í 7% eftir herðingu flokkarans, þótt Anthropic hafi tekið fram að sú tala komi úr vísvitandi fjandsamlegu gagnasafni og sé ekki mæling á raunverulegri umferð.techi

Hvað varðar skipunarinndælingu, fékk Anthropic Trajectory Labs til að gera 720 óbeinar inndælingarárásir gegn Claude Fable 5, Opus 5 og Sonnet 5 í sjálfvirkri stillingu. Engin þeirra tókst. Forritarinn og rannsakandinn Simon Willison varaði hins vegar við því að núll árangur í sértækum sviðsmyndum tryggi ekki viðnám gegn árásum á birgðakeðjur, svo sem skaðlegum utanaðkomandi pökkum sem skipa gervigreindinni að sækja og keyra frekari skrár.cryptonomist

Öryggisráðstafanir og umfang

Þegar sjálfvirk stilling stöðvar aðgerð reynir Claude öruggari valkost eða biður um skýrt leyfi. Þrjár neitanir í röð eða 20 samtals í gagnvirkri vinnulotu færa verkfærið aftur í handvirkt samþykki, en sjálfvirkar keyrslur án notandaviðmóts stöðvast í staðinn. Teymi geta hert stýringar enn frekar með skýrum spurnareglum fyrir aðgerðir eins og „push“ eða „pull request“, og neitunarreglum sem ekki er hægt að yfirtaka.techi

Anthropic staðfesti að fyrirtækið muni ekki innheimta aukagjald af Pro, Max og Team notendum fyrir þann litla málseiningakostnað sem flokkarinn bætir við hvert verkfærakall. Fyrirtækjalausnir, API-viðmót og kerfisdreifingar á Amazon Web Services Amazon.com, Inc. ↗ 0.82%, Google Cloud Alphabet Inc. ↘ 0.88% og Microsoft ↗ 0.03% Foundry verða áfram valfrjálsar á meðan víðtækari innleiðing er undirbúin.cryptonomist+1