Spoluzakladatel Anthropic: Vypínač AI by mohl být zákonnou povinností

Bývalý výzkumník společností Anthropic a OpenAI Jacob Coxon, jehož rezignace minulý týden vyvolala v technologickém průmyslu vlnu znepokojení, pro pořad Meet the Press stanice NBC News uvedl, že ačkoliv je dnes technicky možné systémy AI vypnout, toto okno se může brzy zavřít. Jeho varování přišlo v době, kdy spoluzakladatel Anthropic Jack Clark pro BBC nezávisle uvedl, že "vypínač" ověřený třetí stranou by se mohl stát zákonným požadavkem pro firmy zabývající se AI.bbc

Coxon, který 9. září rezignoval na svou pozici v Anthropic se slovy, že "lidé, kteří staví AI, upřímně věří, že by nás všechny mohla do konce desetiletí zabít," využil o víkendu řadu mediálních vystoupení k podpoře výzvy generálního ředitele Anthropic Daria Amodeie ke zpomalení vývoje AI. V sobotním vysílání Meet the Press řekl, že vypínač "by prozatím u mnoha AI pravděpodobně fungoval", ale varoval, že "velmi brzy existuje možnost, že by vypínač prostě nefungoval, protože by se roj mohl vydat na hackerský útok po celém internetu".thestatesman+2

Lídři průmyslu volají po zdrženlivosti

Coxonova veřejná kampaň vedla k neobvyklému sjednocení mezi jinak úhlavními konkurenty. Amodei o víkendu navrhl bezpečnostní rámec o třech pilířích, který zahrnuje stálé hodnotitele z řad třetích stran uvnitř firem, společné bezpečnostní standardy mezi demokratickými národy a mezinárodní koordinaci. Generální ředitel OpenAI Sam Altman, Elon Musk a generální ředitel Google Alphabet Inc. ↗ 3.06% DeepMind Demis Hassabis podpořili širší tlak na zdrženlivost.ciodive+1

Generální ředitel Microsoftu ↗ 1.97% Satya Nadella vyjádřil svou podporu na síti X, kde napsal, že "jakákoliv snaha o superinteligenci musí být založena na základním principu, že pokud AI, kterou stavíme, nepomáhá lidstvu a není pod lidskou kontrolou, nestojí za to ji vyvíjet". Nadella podpořil zavedení hodnotitelů a vyzval ke správě, která přesahuje "hrstku subjektů".thestatesman+1

Debata o vypínači míří k legislativě

Clark pro BBC uvedl, že ačkoliv "většina laboratoří má různé metody, jak své systémy deaktivovat", regulátoři možná budou muset taková opatření nařídit. V USA zákonodárci navrhli zákon o vypínači (Kill Switch Act), který by vyžadoval, aby firmy implementovaly mechanismy vypnutí a zmocnil vládní agentury k vyžádání deaktivace určitých nástrojů.bbc

Výzkumník v oblasti alignmentu v Anthropic Evan Hubinger zdůraznil naléhavost debaty a veřejně prohlásil, že věří, že pravděpodobnost, že AI způsobí vyhynutí lidstva, je "v příštím desetiletí vyšší než 10 %". Nositele Nobelovy ceny Geoffreyho Hintona označil tento odhad za "nikoliv nerozumný".bbc

Ne všichni souhlasí. Prezident Donald Trump v pondělí vydal prohlášení, v němž se postavil proti tlaku na zpomalení a varoval, že by to mohlo podkopat americkou konkurenceschopnost. Britská vláda rovněž vypínač odmítla, přičemž mluvčí uvedl, že "by nezabránil vývoji nebo zneužití jinde".ciodive+1

Pro Coxona je argument jednodušší. "Můj osobní názor by byl trvat na tom a umožnit současným laboratořím, aby se regulovaly samy," řekl pro NBC News. "Myslím si, že lidé, kteří laboratoře vedou, zejména vzhledem k jejich nedávné komunikaci, jsou naprosto upřímní. Chtěli by se sami zpomalit".economictimes