„Anthropic“ vadovas ragina lėtinti DI plėtrą po atskleistos „Claude“ piktnaudžiavimo ataskaitos

Rugsėjo 10 d. „Anthropic“ paskelbė 154 puslapių grėsmių žvalgybos ataskaitą, kurioje išsamiai aprašoma, kaip priešininkai aštuonis mėnesius išnaudojo „Claude“ DI modelius dronų karui, biologinių ginklų tyrimams, kibernetiniam šnipinėjimui, stebėjimui ir sukčiavimui. Šios išvados tiesiogiai paskatino generalinį direktorių Dario Amodei šeštadienį paraginti DI pramonę sulėtinti tempą.anthropic+1

Nuo kamikadzių dronų iki biologinių ginklų

Ataskaitoje, apimančioje veiklą, nutrauktą nuo 2025 m. gruodžio iki 2026 m. rugpjūčio, dokumentuojama Rusijos laisvai samdomų darbuotojų komanda, kuri naudojo „Claude Code“ kurdama programinę įrangą kamikadzių dronų spiečiui, gebančiam pasirinkti žmonių taikinius ir vykdyti detonavimo komandas be žmogaus įsikišimo. „Anthropic“ atsekė grupę, kuri savo projektą vadino „DronDoc“, iki devynių paskyrų, susietų su regioniniu Rusijos universitetu. Komanda teigė gavusi finansavimą iš Rusijos pažangiųjų tyrimų fondo, nors „Anthropic“ to patvirtinti negalėjo.dronexl

Tarp labiausiai nerimą keliančių atvejų: su Iranu susijusi operacija naudojo „Claude“ taikinių vadovams, stebintiems JAV karines jūrų pajėgas, kurti; ginklų kuopa Šiaurės Jemene naudojo „Claude Code“ raketų nukreipimo programinei įrangai kurti; o su Kinija susijęs veikėjas naudojo modelį uigūrams identifikuoti ir persekioti „WhatsApp“ bei „Telegram“ grupėse. Konsultantas Malyje sukūrė nacionalinę telefonų stebėjimo sistemą, gebančią stebėti 25 milijonus SIM kortelių.axios

„Anthropic“ taip pat užblokavo penkis biologinio piktnaudžiavimo atvejus, įskaitant tyrėjus, gavusius valstybės paramą, kurie bandė modifikuoti uodų platinamą virusą, kad jis plistų lengviau. Kai „Claude“ atsisakė vykdyti jautriausias užklausas, tyrėjai nukreipė jas į konkuruojantį modelį su silpnesnėmis apsaugos priemonėmis.npr+1

Raginimas sulėtinti tempą

Visi piktnaudžiavimo atvejai buvo susiję su „Claude“ „Haiku“, „Sonnet“ arba „Opus“ modeliais – nė vienas nebuvo susijęs su naujesnėmis „Fable“ ar „Mythos“ klasės sistemomis. Ataskaita taip pat atskleidė, kad septynios Kinijoje įsikūrusios laboratorijos, įskaitant „Alibaba“, „Moonshot“ ir „DeepSeek“, vykdė distiliavimo kampanijas prieš „Claude“, o „Alibaba“ ↗ 0.68% apibūdinta kaip „didžiausia mūsų kada nors išmatuota distiliavimo ataka“.zmina+2

Išvados pasirodė tuo metu, kai Amodei šeštadienį paskelbė esė pavadinimu „We Must Pace the Frontier“, ragindamas DI bendroves nedelsiant lėtinti pajėgumų plėtrą. „Turime sulėtinti DI modelių pajėgumų gerinimo tempą“, – rašė jis, įsipareigodamas, kad „Anthropic“ tai darys „vienašališkai“, ir ragindamas vyriausybes „įpareigoti kitas pirmaujančias bendroves laikytis šių reikalavimų“.politico+2

Vašingtono reakcija

Šie atskleidimai padidino spaudimą Vašingtone. Dvipartinė Atstovų Rūmų įstatymų leidėjų grupė ragina pirmininką Mike'ą Johnsoną atšaukti pertrauką, kol Kongresas imsis veiksmų dėl DI saugumo, o senatorius Bernie Sandersas paragino visiškai uždrausti superintelektą. NPR pranešė, kad „Anthropic“ pasidalijo savo išvadomis su valdžios institucijomis ir pramonės partneriais. Pačios ataskaitos tendencijų skyriuje įspėjama, kad aprašyti pajėgumai „turėtų būti laikomi prieinamais visiems motyvuotiems veikėjams“.axios+2