Huang og andre teknologitopper konfronterte Amodei om AI-advarsler i Det hvite hus

Ledende skikkelser innen kunstig intelligens stilte opp sammen med president Trump tirsdag 29. september for å støtte frivillige sikkerhetsprinsipper. I et privat møte i forbindelse med arrangementet utfordret flere av dem Anthropic-sjef Dario Amodei angående hans offentlige advarsler om teknologien, meldte The Wall Street Journal News Corp ↗ 0.64% onsdag. Ifølge avisen stilte ledere, inkludert Nvidia ↗ 1.34%-sjef Jensen Huang, kritiske spørsmål til Amodei under en mindre sesjon i Roosevelt Room. Møtet fulgte en lunsj arrangert av Trump og speaker i Representantenes hus, Mike Johnson.investing+1

Amodei forsvarte sin tilnærming. Han argumenterte for at selskaper må være åpne om risiko, inkludert AI-drevne cybertrusler og forstyrrelser i arbeidsmarkedet, meldte Investing.com med henvisning til Journal. Utvekslingen viser at bransjen fortsatt er splittet om hvordan AI bør reguleres, selv om de presenterer en samlet front utad.investing

En frivillig, "moralsk bindende" pakt

Etter lunsjen uttalte Trump at han og teknologilederne hadde signert et "moralsk bindende" AI-dokument. Han beskrev det som "nesten som en grunnlov". Trump publiserte senere avtalen på Truth Social. Den fastsetter fire forpliktelser:finance.yahoo+2

• interne kontroller for cybersikkerhet og andre standarder
• et internt team for å kontrollere at overvåkingen fungerer
• en ekstern aktør for uavhengig vurdering av modeller
• en uavhengig styringskomité for å gjennomgå funnene

Selskapene ble også enige om å samarbeide med "uavhengige revisorer", meldte Reuters. Meta Platforms ↗ 0.30%-sjef Mark Zuckerberg kalte avtalen "et sett med prinsipper og forpliktelser rundt bygging av robuste interne kontroller", med "flere lag av revisjon og kontroll". Blant deltakerne var Elon Musk, Zuckerberg, Amodei, Huang, Greg Brockman fra OpenAI og Sundar Pichai fra Google. Trump har foretrukket frivillige vurderinger fremfor strengere regulering.reuters+3

Skrinlagt selvregulering

Ifølge Journal ble en tidligere plan om en selvregulerende organisasjon for bransjen droppet. Anthropic, OpenAI og Alphabets ↗ 1.62% Google hadde støttet planen. Den ble forlatt etter motstand fra Huang, Zuckerberg og Musk, som argumenterte for at det ville konsentrere for mye makt hos markedslederne. Zuckerberg skal ha blitt en sentral arkitekt bak Det hvite hus sin tilnærming med lett regulering.investing

Offentlig konflikt

Uenigheten mellom Amodei og Huang har vært offentlig i flere uker. Den 12. september publiserte Amodei et åpent brev på 3800 ord der han foreslo måter å bremse og styre AI-utviklingen på. Dager senere, under Salesforce ↘ 0.85% sin Dreamforce-konferanse, argumenterte Huang for å utvikle AI for full fart, og sa til publikum at "vi trenger ingen nye lover". En kommende bok rapporterer at de to mennene hadde et vanskelig første møte i 2022, da Amodei beskrev Huang som "litt Trump-aktig".tomshardware+2

Anthropic er i ferd med å reparere forholdet til administrasjonen etter tidligere tvister, blant annet om forsvarspolitikk. Selskapet forbereder seg også på en børsnotering som kan verdsette selskapet til rundt 2 billioner dollar, ifølge Investing.com.investing