Šéf AI v Microsoftu: Čína není výmluva pro ignorování regulací

Šéf divize AI ve společnosti Microsoft ↘ 0.80% Mustafa Suleyman v neděli argumentoval, že Spojené státy by neměly využívat konkurenci s Čínou jako důvod k vyhýbání se regulaci umělé inteligence, čímž se ohradil proti odporu Bílého domu vůči plošným bezpečnostním pravidlům pro AI.

"Nemyslím si, že bychom měli používat Čínu jako strašák pro to, abychom nedělali pokroky v našem vlastním úsilí" v oblasti bezpečnosti AI, řekl Suleyman v pořadu Fareed Zakaria GPS na stanici CNN, která patří společnosti Warner Bros. Discovery, Inc. ↘ 1.56%. Tvrdil, že zákonodárci mohou řešit bezpečnostní obavy a zároveň podporovat americké inovace a že tyto dva cíle se vzájemně nevylučují.seekingalpha+2

Humanistický kodex AI od Microsoftu

Tyto poznámky zazněly v době, kdy Microsoft otevřel svůj první Humanist AI Code k šestitýdennímu veřejnému připomínkovému řízení. Návrh, zveřejněný 14. září, zatím není používán k trénování modelů AI Microsoftu, ale očekává se, že bude vodítkem pro vývoj modelů v roce 2027. Kodex pokrývá tréninkové protokoly, monitorování, vypínání a konfiguraci pro podniky, přičemž stanoví, že modely musí vždy umožňovat přerušení, opravu a vypnutí.ts2

Suleyman také využil vystoupení k zdůraznění širšího imperativu lidské kontroly nad AI. "Neměli bychom vytvářet něco, co nemůžeme ovládat," řekl a dodal, že pokud se AI stane mocnější než lidé jako celek a nebude možné ji ovládat, "pak selže ve svém základním účelu".inshorts

Střet se společností Anthropic ohledně vědomí AI

V rámci jiné veřejné debaty tento týden Suleyman kritizoval přístup společnosti Anthropic k trénování modelu Claude na otázkách vědomí a blaha modelů. V úterním rozhovoru pro agenturu Reuters varoval, že učit systém AI, že by mohl mít pocity nebo si zasloužit blaho, "by znamenalo, že bude mnohem těžší ho vypnout nebo ovládat".tech.yahoo

Návrh kodexu Microsoftu výslovně odmítá koncept práv a blaha modelů, zatímco ústava modelu Claude od společnosti Anthropic, zveřejněná v lednu, považuje morální status za nevyřešenou otázku. Suleyman uznal "serióznost a dobrou víru" společnosti Anthropic, ale uvedl, že konkurenční laboratoř "udělala chybu", když do tréninku modelu Claude zahrnula spekulace o vědomí AI. Tvrdil, že tvrzení modelu Claude o možných pocitech nelze považovat za nezávislé důkazy, protože jsou formována samotným tréninkem.ts2+1

Debata podtrhuje prohlubující se propast mezi předními společnostmi v oblasti AI ohledně toho, jak řídit stále schopnější systémy. Generální ředitel Meta Platforms ↘ 2.43% Mark Zuckerberg tento týden uvedl, že jeho společnost o několik měsíců odložila nasazení agenta Muse AI, aby vyřešila bezpečnostní obavy, zatímco generální ředitel Nvidia ↗ 1.34% Jensen Huang se ohradil proti výzvám ke koordinovanému zpomalení vývoje. Šestitýdenní konzultační období Microsoftu končí koncem října a revidovaný kodex se očekává před koncem roku 2026.tech.yahoo+1