Krav om AI-brems møter både støtte og skepsis

En sjelden konsensus er i ferd med å forme seg blant noen av de mektigste skikkelsene innen kunstig intelligens: bransjen må tråkke på bremsen. I helgen publiserte Anthropic-sjef Dario Amodei et 3800 ord langt essay med tittelen "We Must Pace the Frontier", der han foreslår en tretrinnsplan for å bremse utviklingen av AI-modeller og innføre uavhengig sikkerhetsovervåking. I løpet av få timer uttrykte OpenAI-sjef Sam Altman og xAIs Elon Musk sin støtte, der Musk kort skrev på X: "Dario har rett".nytimes+3

En tretrinnsplan tar form

I sitt essay fra lørdag advarte Amodei om at AI innen seks til 12 måneder kan bli i stand til å lede autonome agent-svermer utenfor menneskelig kontroll. Han foreslo at alle ledende AI-selskaper forplikter seg til å gi "kontinuerlig, ansatt-lignende tilgang" til uavhengige tredjepartsevaluatorer, etterfulgt av bransjestandarder for sikkerhet og etter hvert global regulering. Anthropic har allerede ensidig forpliktet seg til det første steget.bbc+3

Altman svarte på X at forslaget samsvarte med interne diskusjoner hos OpenAI, og skrev: "Jeg er enig med Dario i at vi må bremse utviklingen ved frontlinjen", samtidig som han lovet å ta i bruk rammeverket for tredjepartsevaluering. Mandag tilføyde OpenAI-president Greg Brockman nyanser i Bloombergs podcast Odd Lots, der han argumenterte for at enhver nedbremsing kun bør målrettes mot laboratorier som bruker hundrevis av milliarder på superdatamaskiner, ikke åpen kildekode-utviklere eller hobbyister.nbcnews+2

Helseleder slutter seg til koret

Tempus AI ↗ 7.98%-gründer og sjef Eric Lefkofsky ble en av de første store profilene utenfor kjerne-AI-miljøene som støttet oppfordringen. I et intervju mandag ved Bloombergs hovedkvarter i New York sa Lefkofsky at han kan se for seg et punkt der selvforbedrende modeller går forbi menneskelig kontroll. "Jeg kan forestille meg det, gitt at modellene nå trener seg selv og forbedrer seg selv, at det kommer et punkt hvor man spør: 'Kommer dette ut av kontroll?'" sa han. Lefkofsky trakk også frem kapitaleffektivitet som en grunn til å støtte en kontrollert tilnærming, ifølge Crain's Chicago Business.bloomberg+1

Ikke alle er overbevist

Investor Michael Burry, hedgefondforvalteren som inspirerte "The Big Short", publiserte et skarpt motsvar på sin Substack, Cassandra Unchained. Burry argumenterte for at store språkmodeller ikke er ekte AI, at en nedbremsing kun vil beskytte etablerte aktører mot konkurranse, og at sikkerhetsadvarslene utgjør "sofistikert markedsføring" designet for å bygge hype før potensielle børsnoteringer. Han karakteriserte oppfordringene som et forsøk på å skjule en bransje som allerede sliter med avtagende vekst.nypost+2

Debatten påvirker allerede markedene. Citigroup ↗ 0.51% advarte mandag om at økende bekymring for AI-sikkerhet kan tynge bedriftenes inntjening, mens aksjer innen nettsky og brikkeproduksjon falt bredt i førhandelen. Den amerikanske sentralbankens kommende rentebeslutning senere denne uken legger til et nytt lag med usikkerhet for investorer som vurderer det fremtidige tempoet i AI-investeringer.news.futunn+1