Anthropic, OpenAI ir Google svarsto kurti dirbtinio intelekto saugos standartų organizaciją

Trys pirmaujantys dirbtinio intelekto kūrėjai – „Anthropic“, „OpenAI“ ir „Google Alphabet Inc.“ ↗ 1.53% „DeepMind“ – diskutuoja apie bendros pramonės standartų organizacijos kūrimą, teigiama sekmadienį paskelbtoje „The Information“ ataskaitoje. Derybos vyksta bent nuo liepos mėnesio, dar prieš „Anthropic“ generaliniam direktoriui Dario Amodei šeštadienį viešai paraginus pramonę sulėtinti DI plėtrą.theinformation+1

Siekis sukurti bendrus saugos protokolus

Siūloma organizacija nustatytų bendrus techninio testavimo ir išankstinio audito protokolus pažangiausiems DI modeliams. Samas Altmanas, Demisas Hassabis ir D. Amodei viešai ragino bendradarbiauti JAV vadovaujamais saugos standartais, įskaitant tarptautinius testavimo ir rizikos analizės forumus.cryptobriefing+1

Laboratorijos vis dar nesutaria dėl esminių detalių. „Anthropic“ linksta prie partnerystės su vyriausybe, o jos saugumo komandos vadovas 2026 m. liepą viešai pasisakė už standartus, kuriamus kartu su vyriausybinėmis institucijomis. „OpenAI“ pabrėžia savanoriškas pramonės taisykles ir rugsėjį paskelbė tinklaraščio įrašą, įsipareigodama plėtoti standartus nepriklausomai nuo vyriausybės įsikišimo. Diskusijos tęsia ankstesnį koordinavimą per „Frontier Model Forum“ – konsorciumą, kuriam taip pat priklauso „Microsoft“ ↗ 0.65%.aiweekly+1

D. Amodei esė nustato toną

Šeštadienį paskelbta maždaug 3 800 žodžių D. Amodei esė tapo viešu fonu privačioms deryboms. Jis įspėjo, kad DI per 6–12 mėnesių gali tapti pajėgus valdyti automatizuotus spiečius, kurie galėtų perimti viso interneto kontrolę. „Tikiu, kad jei sulėtinimas suteiktų mums bent papildomus metus ar dvejus, kol modeliai pasieks kritinį pajėgumų lygį, ir mes tą laiką išnaudotume suderinimui, galėtume gerokai sumažinti riziką, kad kažkas rimtai pakryps ne ta linkme“, – rašė D. Amodei.latimes

Jo trijų žingsnių plane raginama į DI laboratorijas integruoti nepriklausomus vertintojus, koordinuoti bendrus saugos standartus tarp demokratinių šalių įmonių ir siekti pasaulinio koordinavimo, įskaitant autoritarines vyriausybes. „Anthropic“ jau vienašališkai įsipareigojo įgyvendinti pirmąjį žingsnį, siūlydama trečiųjų šalių vertintojams darbo vietas savo biuruose.techcrunch+2

Kinijos klausimas

Ginčytiniausias pasiūlymo elementas gali būti tarptautinis koordinavimas. D. Amodei sekmadienį pripažino, kad Kinija yra „sunkiausia dilema“ – rizika, kad JAV plėtros sulėtinimas tiesiog suteiks pranašumą konkurentams, kurie nesilaiko tų pačių taisyklių. „Future of Life Institute“ 2026 m. vasaros DI saugos indeksas pabrėžė platesnį susirūpinimą dėl pramonės saugos rezultatų: „Anthropic“ įvertinta C+, „OpenAI“ – C, o „Google DeepMind“ – C.cnbc+1