Notendastefna Anthropic bannar misnotkun á Claude

Anthropic birti á fimmtudaginn 8. október uppfærslu á notendastefnu sinni. Þetta er fyrsta endurskoðun fyrirtækisins í meira en ár og hún bætir við reglu gegn "viðvarandi og óþarfa misnotkun eða grimmd" í garð Claude-líkana þess. Uppfærslan safnar einnig fyrirliggjandi reglum gegn blekkingarherferðum í einn kafla og skýrir betur hvað telst til bannaðrar vopna- og eftirlitsvinnu. Hún tekur gildi 12. nóvember 2026.unite+2

Fyrirtækið sagði flestar breytingarnar skýra reglur sem það hefði þegar haft. Það sagði endurskoðunina endurspegla ár þar sem Claude tók að sér lengri og sjálfstæðari verkefni, ásamt endurgjöf viðskiptavina og misnotkunarmynstri sem lýst var í ógnargreiningarskýrslu þess í september.anthropic+1

Regla sem verndar líkanið

Anthropic sagði að misnotkunarreglan "eigi aðeins við í öfgafullum tilfellum, þar sem notendur koma ítrekað fram af grimmd við líkönin okkar, án nokkurs sýnilegs tilgangs." Það sagði að reglan "eigi ekki við um algengar útgáfur af gremju notenda, andmælum, dökkum skapandi þemum eða prófunum og rannsóknum á líkönum". Aðalleiðin sem reglan verður framfylgt með er eiginleiki sem hleypt var af stokkunum í ágúst 2025: Claude getur bundið enda á samtöl við viðvarandi móðgandi notendur. Anthropic smíðaði þann eiginleika sem hluta af rannsóknum sínum á hugsanlegri "velferð líkana". Samkvæmt The Verge sagði fyrirtækið ekki hvort aðrar refsingar, svo sem bann á aðgangi, gætu fylgt í kjölfarið.theverge+1

Breytingin kemur á sama tíma og Anthropic heldur áfram að kanna hvort líkön þess gætu haft einhvers konar innri upplifun. Dario Amodei, forstjóri, sagði í hlaðvarpi í febrúar: "Við vitum ekki hvort líkönin séu meðvituð". Önnur fyrirtæki eru ósammála. Drög að siðareglum frá Microsoft AI, sem Mustafa Suleyman birti í september, sögðu: "Hugmyndin um velferð líkana er röng".theverge

Blekkingar, vopn og eftirlit

Nýr kafli sem ber titilinn "Ekki taka þátt í blekkingarherferðum eða gervi-virkni" sameinar reglur sem áður voru dreifðar um stefnuna. Hann nær yfir það að fela hver sé á bak við skilaboð, efla efni með fölskum aðgangum og smíða verkfæri fyrir áhrifaaðgerðir. Anthropic sagði að ríkisfjölmiðlar, áróðursskrifstofur stjórnvalda og viðskiptafyrirtæki hafi notað Claude til að reka slík net. Fyrirtækið felldi einnig niður algert bann sitt við persónulegri miðun kosningaáróðurs og sagði að reglan hefði hindrað lögmæta borgaralega vinnu eins og að þýða upplýsingar fyrir kjósendur.unite

Vopnakaflinn nær nú beinlínis yfir "hugbúnað og íhluti sem láta vopn virka," þar á meðal vopnabúnað dróna og annarra sjálfstýrðra farartækja. Anthropic sagði að það hefði séð tilraunir til að nota Claude til að smíða leiðsögu- og stýrihugbúnað fyrir vopn. Stefnan bannar eftirlit með fólki án samþykkis þess. Hún bannar einnig að nota Claude til að ákveða eða mæla með hverja eigi að rannsaka, handtaka eða ákæra. Samningar við suma ríkisviðskiptavini geta enn breytt þessum takmörkunum ef Anthropic telur öryggisráðstafanirnar vera fullnægjandi, að sögn The Verge.theverge

Vélbúnaðarstýringar

Ný krafa nær yfir líkön sem tengjast vélbúnaði sem getur framkvæmt líkamlegar aðgerðir sjálfur og gæti valdið meiðslum. "Hæfur stjórnandi verður að geta fylgst með búnaðinum og stöðvað hann ef þörf krefur," og búnaðurinn verður að geta haldið öruggu ástandi ef Claude er aftengdur.unite+1