Výzva ke zpomalení vývoje AI vyvolává podporu i skepsi

Mezi nejmocnějšími postavami v oblasti umělé inteligence se formuje vzácná shoda: průmysl musí šlápnout na brzdu. O víkendu publikoval generální ředitel společnosti Anthropic Dario Amodei esej o rozsahu 3 800 slov s názvem "We Must Pace the Frontier", v níž navrhuje tříkrokový plán na zpomalení vývoje modelů AI a zavedení nezávislého bezpečnostního dohledu. Během několika hodin vyjádřili podporu generální ředitel OpenAI Sam Altman a Elon Musk ze společnosti xAI, přičemž Musk na síti X napsal prosté: "Dario má pravdu".nytimes+3

Rýsuje se třídílný plán

Ve své sobotní eseji Amodei varoval, že AI by mohla být během šesti až dvanácti měsíců schopna vést roje autonomních agentů mimo lidskou kontrolu. Navrhl, aby se všechny přední společnosti v oblasti AI zavázaly k poskytnutí "průběžného přístupu podobného zaměstnaneckému" nezávislým externím hodnotitelům, následovaného celoodvětvovými bezpečnostními standardy a nakonec globální regulací. Společnost Anthropic se již jednostranně zavázala k prvnímu kroku.bbc+3

Altman na síti X odpověděl, že návrh je v souladu s interními diskusemi v OpenAI, napsal: "Souhlasím s Dariem, že musíme tempo na hranici možností zpomalit," a přislíbil přijetí rámce pro externí hodnotitele. V pondělí prezident OpenAI Greg Brockman dodal v podcastu Odd Lots společnosti Bloomberg nuanci, když argumentoval, že jakékoli zpomalení by se mělo zaměřit pouze na špičkové laboratoře utrácející stovky miliard za superpočítače, nikoli na vývojáře open-source nebo nadšence.nbcnews+2

Lídr ve zdravotnictví se přidává k výzvě

Zakladatel a generální ředitel Tempus AI ↗ 7.98% Eric Lefkofsky se stal jednou z prvních významných osobností mimo hlavní laboratoře AI, která tuto výzvu podpořila. V pondělním rozhovoru v ústředí Bloomberg v New Yorku Lefkofsky řekl, že si dokáže představit bod, kdy se samovylepšující modely vymknou lidskému dohledu. "Dokážu si to představit, vzhledem k tomu, že se modely nyní samy trénují a vylepšují, že nastane bod, kdy si řeknete: 'Není to už mimo naši kontrolu?'" řekl. Lefkofsky také podle Crain's Chicago Business citoval kapitálovou efektivitu jako důvod pro podporu umírněného přístupu.bloomberg+1

Ne všichni jsou pro

Investor Michael Burry, manažer hedgeového fondu, který inspiroval film "Sázka na nejistotu", publikoval na svém Substacku Cassandra Unchained ostrou kritiku. Burry tvrdil, že velké jazykové modely nejsou skutečnou AI, že zpomalení by pouze chránilo zavedené hráče před konkurencí a že bezpečnostní varování se rovnají "sofistikovanému marketingu" navrženému k vybudování humbuku před potenciálními IPO. Výzvy označil za snahu maskovat odvětví, které se již potýká se zpomalujícím růstem.nypost+2

Debata již hýbe trhy. Citigroup ↗ 0.51% v pondělí varovala, že rostoucí obavy o bezpečnost AI by mohly zatížit firemní zisky, zatímco akcie společností zabývajících se cloud computingem a výrobou čipů v předobchodní fázi plošně klesaly. Nadcházející rozhodnutí Federálního rezervního systému o úrokových sazbách koncem tohoto týdne přidává další vrstvu nejistoty pro investory, kteří zvažují budoucí tempo investic do AI.news.futunn+1