Krav på AI-broms möter både stöd och skepsis

En sällsynt konsensus håller på att växa fram bland några av de mäktigaste personerna inom artificiell intelligens: branschen behöver trampa på bromsen. Under helgen publicerade Anthropic-vd:n Dario Amodei en 3 800 ord lång essä med titeln "We Must Pace the Frontier", där han föreslår en trestegsplan för att sakta ner utvecklingen av AI-modeller och införa oberoende säkerhetsövervakning. Inom några timmar uttryckte OpenAI-vd:n Sam Altman och xAI:s Elon Musk sitt stöd, där Musk kort skrev på X: "Dario har rätt".nytimes+3

En trestegsplan tar form

I sin essä från i lördags varnade Amodei för att AI inom sex till 12 månader kan bli kapabel att leda autonoma agentsvärmar utanför mänsklig kontroll. Han föreslog att alla ledande AI-företag förbinder sig att ge "kontinuerlig, anställd-liknande tillgång" till oberoende tredjepartsutvärderare, följt av branschövergripande säkerhetsstandarder och så småningom global reglering. Anthropic har redan ensidigt förbundit sig till det första steget.bbc+3

Altman svarade på X att förslaget stämde överens med interna diskussioner hos OpenAI, och skrev: "Jag håller med Dario om att vi måste sakta ner utvecklingen vid frontlinjen", samtidigt som han lovade att anta ramverket för tredjepartsutvärdering. På måndagen tillförde OpenAI-presidenten Greg Brockman nyanser i Bloombergs podcast Odd Lots, där han argumenterade för att en inbromsning endast bör rikta sig mot laboratorier som spenderar hundratals miljarder på superdatorer, inte utvecklare av öppen källkod eller hobbyister.nbcnews+2

Sjukvårdsledare sällar sig till kören

Tempus AI ↗ 10.67%-grundaren och vd:n Eric Lefkofsky blev en av de första stora profilerna utanför kärnan av AI-labb som backade uppmaningen. I en intervju på måndagen vid Bloombergs huvudkontor i New York sa Lefkofsky att han kan se en punkt där självförbättrande modeller går om mänsklig kontroll. "Jag kan föreställa mig det, givet att modellerna nu tränar sig själva och förbättrar sig själva, att det finns en punkt där man frågar sig: 'Kommer det här att gå oss ur händerna?'" sa han. Lefkofsky nämnde också kapitaleffektivitet som ett skäl till att stödja en avvägd strategi, enligt Crain's Chicago Business.bloomberg+1

Alla är inte med på tåget

Investeraren Michael Burry, hedgefondförvaltaren som inspirerade "The Big Short", publicerade ett skarpt genmäle på sin Substack, Cassandra Unchained. Burry argumenterade för att stora språkmodeller inte är äkta AI, att en inbromsning bara skulle skydda etablerade aktörer från konkurrens, och att säkerhetsvarningarna utgör "sofistikerad marknadsföring" designad för att bygga hype inför potentiella börsnoteringar. Han karaktäriserade kraven som ett försök att dölja en bransch som redan kämpar med avtagande tillväxt.nypost+2

Debatten påverkar redan marknaderna. Citigroup ↘ 0.01% varnade på måndagen för att växande oro för AI-säkerhet kan tynga företagens vinster, medan aktier inom molntjänster och halvledare föll brett i förhandeln. Den amerikanska centralbankens kommande räntebeslut senare i veckan lägger till ytterligare ett lager av osäkerhet för investerare som väger den framtida takten i AI-investeringar.news.futunn+1