Atnaujinta „Anthropic“ naudojimo politika draudžia piktnaudžiavimą „Claude“

Ketvirtadienį, spalio 8 d., „Anthropic“ paskelbė savo naudojimo politikos atnaujinimą. Tai pirmoji įmonės peržiūra per daugiau nei metus, kurioje pridedama taisyklė prieš "nuolatinį ir nereikalingą piktnaudžiavimą ar žiaurų elgesį" su „Claude“ modeliais. Atnaujinimas taip pat sujungia esamas taisykles prieš apgaulingas kampanijas į vieną skyrių ir aiškiau apibrėžia, kas laikoma draudžiamu ginklų ir stebėjimo darbu. Jis įsigalioja 2026 m. lapkričio 12 d.unite+2

Įmonė teigė, kad dauguma pakeitimų patikslina jau galiojusias taisykles. Ji nurodė, kad peržiūra atspindi metus, per kuriuos „Claude“ ėmėsi ilgesnių ir savarankiškesnių darbų, taip pat klientų atsiliepimus ir piktnaudžiavimo modelius, aprašytus rugsėjo mėnesio grėsmių žvalgybos ataskaitoje.anthropic+1

Modelį sauganti taisyklė

„Anthropic“ teigė, kad piktnaudžiavimo taisyklė "skirta taikyti tik kraštutiniais atvejais, kai vartotojai pakartotinai elgiasi žiauriai su mūsų modeliais, neturėdami jokio suprantamo tikslo." Ji nurodė, kad taisyklė "netaikoma įprastoms vartotojų nusivylimo, pasipriešinimo, tamsių kūrybinių temų ar modelių testavimo ir tyrimų formoms". Pagrindinis būdas, kaip bus vykdoma ši taisyklė, yra 2025 m. rugpjūtį pristatyta funkcija: „Claude“ gali nutraukti pokalbius su nuolat piktnaudžiaujančiais vartotojais. „Anthropic“ sukūrė šią funkciją kaip savo tyrimų apie galimą "modelių gerovę" dalį. Pasak „The Verge“, įmonė nenurodė, ar gali būti taikomos kitos nuobaudos, pavyzdžiui, paskyrų blokavimas.theverge+1

Šis pakeitimas atsirado „Anthropic“ tęsiant tyrimus, ar jų modeliai gali turėti tam tikrą vidinę patirtį. Generalinis direktorius Dario Amodei vasario mėnesį tinklalaidėje sakė: "Mes nežinome, ar modeliai yra sąmoningi". Kitos įmonės nesutinka. „Microsoft AI“ elgesio kodekso projektas, kurį rugsėjį paskelbė Mustafa Suleyman, teigė: "Idėja apie modelių gerovę yra klaidinga".theverge

Apgaulė, ginklai ir stebėjimas

Naujas skyrius pavadinimu "Nedalyvaukite apgaulingose kampanijose ar dirbtinėje veikloje" sujungia taisykles, kurios anksčiau buvo išsibarsčiusios po visą politiką. Jis apima pranešimų autorių slėpimą, turinio skatinimą per netikras paskyras ir įrankių kūrimą įtakos operacijoms. „Anthropic“ teigė, kad valstybinės žiniasklaidos priemonės, vyriausybės propagandos biurai ir komercinės įmonės naudojo „Claude“ tokiems tinklams valdyti. Įmonė taip pat atsisakė visiško draudimo personalizuotam rinkimų taikymui, teigdama, kad taisyklė blokavo teisėtą pilietinį darbą, pavyzdžiui, rinkėjų informacijos vertimą.unite

Ginklų skyrius dabar aiškiai apima "programinę įrangą ir komponentus, kurie leidžia ginklams veikti," įskaitant dronų ir kitų autonominių transporto priemonių ginklavimą. „Anthropic“ teigė mačiusi bandymų naudoti „Claude“ ginklų valdymo ir kontrolės programinei įrangai kurti. Politika draudžia sekti žmones be jų sutikimo. Ji taip pat draudžia naudoti „Claude“ sprendžiant ar rekomenduojant, ką tirti, suimti ar apkaltinti. Sutartys su kai kuriais vyriausybiniais klientais vis dar gali keisti šiuos apribojimus, jei „Anthropic“ įvertina apsaugos priemones kaip tinkamas, pranešė „The Verge“theverge.

Aparatinės įrangos valdymas

Naujas reikalavimas apima modelius, prijungtus prie aparatinės įrangos, kuri gali savarankiškai atlikti fizinius veiksmus ir gali sukelti sužalojimų. "Kvalifikuotas operatorius turi turėti galimybę stebėti įrangą ir prireikus ją sustabdyti," o įranga turi sugebėti išlaikyti saugią būseną, jei „Claude“ yra atjungtas.unite+1