Microsofts AI-chef: Kina är ingen ursäkt för att undvika reglering

Microsofts ↘ 0.80% AI-chef Mustafa Suleyman argumenterade på söndagen för att USA inte bör använda konkurrensen med Kina som en anledning att undvika reglering av artificiell intelligens, och motsatte sig Vita husets motstånd mot breda säkerhetsspärrar för AI.

Jag tycker inte att vi ska använda Kina som ett skrämselspöke för att inte göra framsteg i vårt eget arbete med AI-säkerhet, sade Suleyman i CNN-programmet Fareed Zakaria GPS, ägt av Warner Bros. Discovery, Inc. ↘ 1.56%. Han menade att lagstiftare kan hantera säkerhetsfrågor samtidigt som de främjar amerikansk innovation, och att de två målen inte utesluter varandra.seekingalpha+2

Microsofts Humanist AI Code

Uttalandena kom samtidigt som Microsoft öppnade sin första Humanist AI Code för en sex veckor lång offentlig granskning. Utkastet, som publicerades den 14 september, används ännu inte för att träna Microsofts AI-modeller men förväntas vägleda modellutvecklingen under 2027. Koden omfattar träningsprotokoll, övervakning, avstängning och företagskonfiguration, och fastställer att modeller alltid måste kunna avbrytas, korrigeras och stängas av.ts2

Suleyman använde också tillfället för att betona det övergripande kravet på mänsklig kontroll över AI. Vi bör inte skapa något som vi inte kan kontrollera, sade han, och tillade att om AI blir kraftfullare än människor kollektivt och inte kan kontrolleras, så kommer den att misslyckas med sitt grundläggande syfte.inshorts

Konflikt med Anthropic om AI-medvetande

I en separat offentlig debatt denna vecka riktade Suleyman kritik mot Anthropic och deras sätt att träna Claude-modellen på frågor om medvetande och modellvälfärd. I en intervju med Reuters på tisdagen varnade han för att det att lära ett AI-system att det kan ha känslor eller förtjäna välfärd skulle göra det mycket svårare att stänga av eller kontrollera det.tech.yahoo

Microsofts utkast till kod avvisar uttryckligen konceptet om modellrättigheter och välfärd, medan Anthropic-konstitutionen för Claude, publicerad i januari, behandlar moralisk status som en öppen fråga. Suleyman erkände Anthropic-teamets seriositet och goda tro, men sade att konkurrenten hade gjort ett misstag genom att inkludera spekulationer om AI-medvetande i Claudes träning. Han argumenterade för att Claudes påståenden om potentiella känslor inte kan behandlas som oberoende bevis eftersom de formas av själva träningen.ts2+1

Debatten understryker en växande klyfta bland ledande AI-företag om hur allt mer kapabla system ska styras. Meta Platforms ↘ 2.43% vd Mark Zuckerberg sade denna vecka att företaget fördröjde sin Muse AI-agent i flera månader för att hantera säkerhetsfrågor, medan Nvidias ↗ 1.34% vd Jensen Huang motsatte sig krav på samordnade nedbromsningar. Microsofts sex veckor långa samrådsperiod avslutas i slutet av oktober, och en reviderad kod förväntas före utgången av 2026.tech.yahoo+1