Anthropicin toimitusjohtaja vaatii tekoälykehityksen hidastamista Clauden väärinkäytösten paljastuttua

Anthropic julkaisi 10. syyskuuta 154-sivuisen uhkaraportin, jossa kuvataan, kuinka vastustajat hyödynsivät Claude-tekoälymalleja lennokkisodankäyntiin, biologisten aseiden tutkimukseen, kybervakoiluun, valvontaan ja petoksiin kahdeksan kuukauden aikana. Nämä havainnot edelsivät suoraan toimitusjohtaja Dario Amodein lauantaina esittämää vaatimusta tekoälyalan hidastamisesta.anthropic+1

Itsemurhalennokeista biologisiin aseisiin

Raportti, joka kattaa joulukuun 2025 ja elokuun 2026 välisen ajan, dokumentoi venäläisen freelance-ryhmän, joka käytti Claude Codea kehittääkseen ohjelmiston itsemurhalennokkiparvelle, joka kykenee valitsemaan ihmiskohteita ja antamaan räjäytyskäskyjä ilman ihmisen valvontaa. Anthropic jäljitti ryhmän, joka kutsui projektiaan nimellä DronDoc, yhdeksään tiliin, jotka oli linkitetty venäläiseen alueelliseen yliopistoon. Ryhmä väitti saaneensa rahoitusta Venäjän Advanced Research Foundationilta, vaikka Anthropic ei voinut tätä vahvistaa.dronexl

Hälyttävimpiin tapauksiin kuuluivat: Iran-kytköksinen operaatio käytti Claudea Yhdysvaltain laivastoa seuraavien kohdeoppaiden luomiseen, Pohjois-Jemenin aseryhmä käytti Claude Codea ohjusohjausohjelmiston kehittämiseen ja Kiina-kytköksinen toimija käytti mallia uiguurien tunnistamiseen ja kohteeksi ottamiseen WhatsApp- ja Telegram-ryhmissä. Malilainen konsultti rakensi kansallisen puhelinvalvontajärjestelmän, joka kykenee seuraamaan 25 miljoonaa SIM-korttia.axios

Anthropic esti myös viisi biologista väärinkäytöstapausta, mukaan lukien valtion tukemalla apurahalla toimivat tutkijat, jotka yrittivät muokata hyttysten levittämää virusta leviämään helpommin. Kun Claude kieltäytyi arkaluonteisimmista pyynnöistä, tutkijat ohjasivat ne heikommilla suojauksilla varustetulle kilpailevalle mallille.npr+1

Vaatimus hidastamisesta

Kaikki väärinkäytöstapaukset liittyivät Clauden Haiku-, Sonnet- tai Opus-malleihin – yksikään ei liittynyt uudempiin Fable- tai Mythos-luokan järjestelmiin. Raportti paljasti myös, että seitsemän kiinalaista laboratoriota, mukaan lukien Alibaba, Moonshot ja DeepSeek, suorittivat tislausiskuja Claudea vastaan, ja Alibaban ↗ 0.68% iskua kuvailtiin "suurimmaksi koskaan mittaamaksemme tislausiskuksi".zmina+2

Havainnot tulivat julki samalla kun Amodei julkaisi lauantaina esseen "We Must Pace the Frontier", jossa hän vaati tekoälyyrityksiä hidastamaan välittömästi kyvykkyyksien kehittämistä. "Meidän on hidastettava tahtia, jolla parannamme tekoälymallien kyvykkyyksiä", hän kirjoitti, luvaten Anthropicin sitoutuvan tähän "yksipuolisesti" ja kehottaen hallituksia "velvoittamaan muut johtavat yritykset noudattamaan tätä".politico+2

Washington vastaa

Paljastukset ovat lisänneet painetta Washingtonissa. Kaksipuolueinen edustajainhuoneen lainsäätäjien ryhmä kehottaa puhemies Mike Johnsonia perumaan tauon, kunnes kongressi toimii tekoälyturvallisuuden suhteen, kun taas senaattori Bernie Sanders on vaatinut superälykkyyden kieltämistä kokonaan. NPR raportoi, että Anthropic jakoi havaintonsa viranomaisten ja alan kumppaneiden kanssa. Raportin trendiosio varoittaa, että siinä kuvattujen kyvykkyyksien "tulisi olettaa olevan kaikkien motivoituneiden toimijoiden saatavilla".axios+2