„Anthropic“ vadovas pripažįsta klaidas, bet gina dirbtinio intelekto lenktynes

„Anthropic“ vadovas Dario Amodei antradienio vakarą, spalio 20 d., atsakė vienam iš ryškiausių savo įmonės saugumo kritikų beveik 2 000 žodžių atsakyme socialiniame tinkle X. Jis pripažino, kad „Anthropic“ netinkamai sprendė kai kurias problemas, tačiau teigė, kad buvimas dirbtinio intelekto priešakyje yra geriausias būdas užtikrinti technologijos saugumą, pranešė „Business Insider“. Jis reagavo į Nathaną Calviną, ne pelno organizacijos „Encode AI“ strategijos vadovą. Pirmadienį paskelbtame daugiau nei 1 500 žodžių įraše Calvinas išvardijo devynis veiksmus, kurie, jo teigimu, rodo, kad „Anthropic“ lenktyniauja link superintelekto savo saugumo įsipareigojimų sąskaita. Tarp jų – daugiau nei 500 mlrd. JAV dolerių vertės skaičiavimo galios sandoriai ir didėjanti priklausomybė nuo „Claude“ kuriant savo modelius.businessinsider.com

Priešpriešinis brangių pasirinkimų sąrašas

„Mūsų strategija visada buvo tai, ką aš vadinu lenktynėmis į viršų – parodydami, kaip įmanoma atsakingai kurti technologijas, galime pakelti kartelę visai pramonei“, – rašė Amodei. Jis taip pat rašė, kad „bet koks sprendimas bet kokia tema visada gali būti pavaizduotas kaip piktavališka schema“.indiatoday.in+1

Tuomet jis išdėstė savo devynis sprendimus, kurie, jo teigimu, buvo komerciškai brangūs, bet pagerino saugumą. Tai apėmė paramą Kalifornijos įstatymui SB 53, griežtų apsaugos priemonių nuo biologinio piktnaudžiavimo laikymąsi ir platesnio pažangių modelių išleidimo atidėjimą, kol bus paruoštos stipresnės kibernetinio saugumo apsaugos priemonės. Jis taip pat nurodė, kad „Mythos“ modelį išleido tik nedidelei kibernetinio saugumo partnerių grupei ir apribojo pardavimus Kinijos valstybės kontroliuojamoms įmonėms. Jis pripažino, kad pažangių galimybių ribojimas „turėjo platesnę kainą“, įskaitant lėtesnę pažangą biologijos srityje.businessinsider.com+1

Įstatymo projekto ginčai

Amodei pripažino, kad „Anthropic“ galėjo geriau išspręsti kai kuriuos Calvino iškeltus klausimus. Vienas jų – federalinio įstatymo projektas, kurį įmonė šį mėnesį platino Kongrese ir kuris, kritikų teigimu, apsunkintų vyriausybei galimybę blokuoti pavojingus modelius. Pagal projektą, apie kurį pirmasis pranešė „Politico“, federaliniai pareigūnai galėtų sustabdyti modelį tik tuo atveju, jei jis keltų „numatomą, neišvengiamą riziką padaryti daugiau nei 1 mlrd. JAV dolerių žalą arba nužudyti ar sunkiai sužaloti daugiau nei 50 žmonių“. „Anthropic“ atstovas spaudai teigė, kad projektas atspindi įmonės pažangaus dirbtinio intelekto sistemą.politico.com+3

Calvinas taip pat kritikavo „Anthropic“ už tai, kad ši pakeitė savo Atsakingo mastelio keitimo politiką. Vasario mėnesį įmonė atsisakė įsipareigojimo pristabdyti veiklą, jei jos apsaugos priemonės atsiliktų nuo modelių galimybių. „Kodėl klaidos sistemingai linkusios saugoti ir teikti pirmenybę „Anthropic“ interesams?“ – klausė Calvinas.chaincatcher.com+1

Tikrinimas prieš IPO

Šie mainai vyksta „Anthropic“ ruošiantis pirminiam viešam akcijų siūlymui, kuris tikimasi įvyks lapkritį ir kurio vertė sieks 2 trilijonus JAV dolerių. Praėjusią savaitę įmonė pranešė apie 16,8 mlrd. JAV dolerių trečiojo ketvirčio pajamas.businessinsider.com

Amodei baigė nepaklusnia nata. „Mes visada stengsimės dirbti geriau, bet vėlgi, aš labai didžiuojuosi mūsų pasiekimais ir jų laikausi“, – rašė jis.businessinsider.com