Microsofts AI-sjef: Kina er ingen unnskyldning for å droppe regulering

Microsoft ↘ 0.99% sin AI-sjef Mustafa Suleyman argumenterte søndag for at USA ikke bør bruke konkurransen med Kina som en grunn til å unngå regulering av kunstig intelligens, og tok til motmæle mot Det hvite hus sin motstand mot omfattende sikkerhetskrav for AI.

Jeg mener ikke vi bør bruke Kina som et skremselsbilde for å unngå fremgang i vårt eget arbeid med AI-sikkerhet, sa Suleyman i programmet Fareed Zakaria GPS på CNN, eid av Warner Bros. Discovery, Inc. ↗ 0.03%. Han hevdet at lovgivere kan håndtere sikkerhetsbekymringer samtidig som de fremmer amerikansk innovasjon, og at de to målene ikke utelukker hverandre.seekingalpha+2

Microsofts Humanist AI Code

Uttalelsene kom samtidig som Microsoft åpnet sin første Humanist AI Code for en seks uker lang offentlig høring. Utkastet, som ble publisert 14. september, brukes foreløpig ikke til å trene Microsofts AI-modeller, men forventes å styre modellutviklingen i 2027. Koden dekker treningsprotokoller, overvåking, nedstengning og bedriftskonfigurasjon, og slår fast at modeller til enhver tid må kunne avbrytes, korrigeres og slås av.ts2

Suleyman brukte også anledningen til å understreke det overordnede kravet om menneskelig kontroll over AI. Vi bør ikke skape noe vi ikke kan kontrollere, sa han, og la til at hvis AI blir kraftigere enn mennesker samlet sett og ikke kan kontrolleres, så vil den feile i sitt grunnleggende formål.inshorts

Konflikt med Anthropic om AI-bevissthet

I en separat offentlig debatt denne uken rettet Suleyman kritikk mot Anthropic sin tilnærming til å trene Claude-modellen på spørsmål om bevissthet og modellvelferd. I et intervju med Reuters på tirsdag advarte han om at det å lære et AI-system at det kan ha følelser eller fortjene velferd, ville gjøre det mye vanskeligere å slå det av eller kontrollere det.tech.yahoo

Microsofts utkast til kode avviser eksplisitt konseptet om modellrettigheter og velferd, mens Anthropic sin Claude-konstitusjon, publisert i januar, behandler moralsk status som et uavklart spørsmål. Suleyman anerkjente Anthropic sin seriøsitet og gode intensjoner, men sa at konkurrenten hadde gjort en feil ved å inkludere spekulasjoner om AI-bevissthet i Claudes trening. Han argumenterte for at Claudes påstander om potensielle følelser ikke kan behandles som uavhengige bevis fordi de er formet av selve treningen.ts2+1

Debatten understreker en økende splittelse blant ledende AI-selskaper om hvordan stadig mer kapable systemer skal styres. Meta Platforms ↗ 0.84% sin administrerende direktør Mark Zuckerberg sa denne uken at selskapet utsatte sin Muse AI-agent i flere måneder for å adressere sikkerhetsbekymringer, mens Nvidia ↗ 2.78% sin administrerende direktør Jensen Huang motsatte seg krav om koordinerte nedbremsinger. Microsofts høringsperiode på seks uker avsluttes i slutten av oktober, og en revidert kode forventes før utgangen av 2026.tech.yahoo+1