DI įmonės ruošiasi visuomenės maištui po katastrofiško įvykio

Aukščiausio lygio „Anthropic“, „OpenAI“ ir kitų dirbtinio intelekto įmonių vadovai privačiai analizuoja visuomenės ir politinio maišto scenarijus, kurie galėtų kilti po katastrofiško DI įvykio, penktadienį pranešė „Axios“. Daugelis pramonės atstovų leidiniui teigė, kad tokio įvykio tikisi per artimiausius 6-12 mėnesių.axios

Planuotojų nuomone, labiausiai tikėtinas postūmis yra didelio masto kibernetinė ataka, kuri nutrauktų prieigą prie finansinių paslaugų, interneto ryšio ar net elektros ir vandens tiekimo, rašo „Axios“. Pirmasis didelės žalos realiame pasaulyje atvejis, sukeltas nesaugaus DI, tikriausiai dar labiau nuteiktų ir taip atsargią visuomenę prieš šią technologiją bei jos lyderius, įskaitant „Anthropic“ vadovą Dario Amodei ir „OpenAI“ vadovą Samą Altmaną. Tai taip pat galėtų pakenkti prezidentui Donaldui Trumpui, kuris iki šiol nenoriai žiūrėjo į šio sektoriaus reguliavimą.axios

Kongreso rengimas padariniams

„Axios“ pranešė, kad šis darbas apima blogiausių scenarijų modeliavimą (angl. „red-teaming“), tačiau pagrindinis dėmesys skiriamas Kongreso narių švietimui. Vadovai supranta, kad šiuo metu reguliavimas neturi jokių šansų būti priimtas. Nepaisant to, jie nori daryę įtaką įstatymams ir politikai, prie kurių JAV lyderiai sugrįš po pirmojo katastrofiško įvykio.axios

„OpenAI“ atstovas spaudai „Axios“ teigė, kad bendrovė „vykdo pasirengimo pratybas, kurių metu komandos aptaria ir analizuoja įvairius galimus scenarijus“. Atstovas pridūrė: „Šie scenarijai nelaikomi neišvengiamais, o yra skirti padėti mums pasiruošti įvairioms aplinkybėms“. „Anthropic“ atsisakė pateikti komentarų.axios

Pramonės planuotojai daro prielaidą, kad demokratai, sustiprinę savo pozicijas po vidurio kadencijos rinkimų, imsis greitų veiksmų, kad apribotų DI, tačiau susidurs su kliūtimis. Tarp šių kliūčių: senstantis Kongresas, kuriam gali būti sunku suprasti technologiją, ir ekonomika, glaudžiai susijusi su DI infrastruktūros plėtra. Griežtesni demokratų pasiūlymai apima superintelekto draudimą arba pažangaus DI kūrimo stabdymą. Reikalavimas įdiegti avarinio išjungimo mygtuką (angl. „kill switch“) pažangiose DI sistemose sulaukia abiejų partijų palaikymo ir tam tikro pritarimo pačiame sektoriuje, nors ekspertai abejoja, ar iš tikrųjų įmanoma išjungti visas DI sistemas.axios

Įspėjamieji ženklai jau matomi

„Axios“ atkreipė dėmesį į neseniai vykusią kampaniją prieš Pietų Korėjos finansines organizacijas, įskaitant pranešimus apie įsilaužimus į du bankus. Įtariama, kad programišius iš Kinijos naudojo DI įrankius, įskaitant Kinijoje sukurtą modelį „DeepSeek“, kad pavogtų dešimčių tūkstančių banko klientų duomenis. Kibernetinio saugumo bendrovės „CrowdStrike“ ↗ 4.57% teigimu, užpuolikas taip pat prašė „Anthropic“ įrankio „Claude Code“ pagalbos ieškant vietų, kur būtų galima parduoti pavogtus duomenis.axios

Kibernetinio saugumo specialistai taip pat įspėja, kad jau dabar galima laisvai atsisiųsti per daug atvirojo svorio (angl. „open-weight“) modelių ir panaudoti juos žalai daryti. Dauguma jų mano, kad vienintelis atsakymas yra naudoti DI kovai su piktavališku DI.axios

Ši ataskaita greitai patraukė komentatorių dėmesį. Leidinio „Reason“ žurnalistė Liz Wolfe ją išskyrė savo kasdienėje apžvalgoje. Nepaisant to, kad tikimasi politinio susiskaldymo, pramonės atstovai taip pat tikisi, kad tikros krizės atveju Vašingtonas gali susivienyti. Vienas demokratų padėjėjas „Axios“ teigė, kad įstatymų leidėjai bendradarbiavo per COVID pandemiją ir 2008 metų finansų krizę.reason+1