„OpenAI“ vadovas S. Altmanas pristatys dirbtinio intelekto saugumo rizikas JT Saugumo Tarybai

Pirmadienį „OpenAI“ paskelbė pasiūlymą, kuriame ragina Jungtines Valstijas imtis iniciatyvos kuriant pasaulinius saugumo ir techninius standartus pažangiajam dirbtiniam intelektui. Bendrovė įspėjo, kad neveiklumas gali lemti situaciją, kai šalis stebės, kaip aplink ją „įsitvirtina susiskaidžiusi, netolygi ir konfliktų kupina sistema“.thenextweb+1

Pasiūlymas, orientuotas į pažangiausius DI modelius ir rekursyvų savęs tobulinimą — procesą, kurio metu DI sistemos prisiima vis daugiau atsakomybės už savo įpėdinių kūrimą — pasirodė intensyvios DI diplomatijos savaitę Jungtinėse Tautose bei Vašingtono ir Pekino santykiuose.

Standartai, o ne licencijos

„OpenAI“ planas ragina sukurti bendras sistemas DI pajėgumams matuoti, vertinti savarankiškų tyrimų mastą DI įmonėse ir nustatyti bendrus incidentų pranešimo protokolus su vienodais griežtumo lygiais. Bendrovė pasiūlė šias pastangas vykdyti per JAV prekybos departamento DI standartų ir inovacijų centrą bei augantį nacionalinių DI saugumo institutų tinklą tokiose šalyse kaip Jungtinė Karalystė, Japonija, Prancūzija ir Kanada.dig+1

Bendrovė pabrėžė, kad šie standartai „nebūtų licencijos, privaloma peržiūra prieš išleidimą ar patvirtinimo reikalavimai DI modeliams“, paliekant atskiroms vyriausybėms spręsti, kaip juos įtraukti į nacionalinę teisę. „OpenAI“ taip pat paragino sukurti saugius ryšio kanalus tarp vyriausybių ir kritinės infrastruktūros operatorių, kad būtų galima dalytis informacija apie kylančias grėsmes, ir nurodė, kad dialogas tarp Jungtinių Valstijų ir Kinijos „būtų teigiamas žingsnis“.thenextweb+2

„Visiškai autonominis rekursyvus savęs tobulinimas šiandien nevyksta, ir mes neturėtume jo siekti, kol tai nebus atliekama saugiai“, — rašė bendrovė.thenextweb

Intensyvi DI diplomatijos savaitė

Pasiūlymas pasirodė gausios veiklos fone. Iždo sekretorius Scottas Bessentas savaitgalį pareiškė, kad JAV ir Kinija susitarė pradėti dvišalį DI dialogą, o Vašingtonas Pekinui pasiūlė DI incidentų pranešimo mechanizmą. Pirmadienį prezidentas Donaldas Trumpas socialiniame tinkle „Truth Social“ rašė, kad pasisako už švelnų DI reguliavimą, pridurdamas: „Kas laimės DI, tas LAIMĖS!“ S. Bessentas atskirai pabrėžė, kad administracija nesuteiks pažangių DI laboratorijų apsaugos nuo teisinės atsakomybės.foxbaltimore+1

Antradienį JT Generalinėje Asamblėjoje generalinis sekretorius António Guterresas įspėjo apie DI keliamus pavojus ir paragino siekti pasaulinio bendradarbiavimo. Netrukus po to kalbėjęs D. Trumpas šią idėją atmetė kaip „globalistinę schemą“ ir teigė, kad JAV pervadina DI į „superintelektą“, praneša „Bloomberg“.thenextweb

S. Altmanas vyksta į Saugumo Tarybą

Samas Altmanas trečiadienio popietę pristatys pranešimą JT Saugumo Tarybai kartu su „Anthropic“ generaliniu direktoriumi Dario Amodei, DI tyrėju Yoshua Bengio ir „Hugging Face“ vadovu Clément Delangue. Tai bus pirmoji Tarybos sesija, skirta vis galingesnio DI saugumo rizikoms. „OpenAI“ atstovai teigė, kad S. Altmanas pozicionuos save kaip „pragmatišką centristą“, skatinantį bendrus saugumo standartus, nesutelkiant galios keliose įmonėse.thenextweb

Šios savaitės pabaigoje S. Altmanas dalyvaus Baltųjų rūmų valstybinėje vakarienėje Kinijos prezidento Xi Jinpingo garbei, o tai pabrėžia, kokią centrinę vietą DI užima JAV ir Kinijos santykiuose.foxbaltimore+1