Nadella volá po dohodě USA a Číny o bezpečnosti AI

Generální ředitel společnosti Microsoft ↘ 0.99% Satya Nadella vyzval k zavedení mezinárodních norem pro řízení umělé inteligence a uvedl, že porozumění mezi Spojenými státy a Čínou je „nezbytným výchozím bodem“. Varoval, že nekontrolovaní agenti AI představují pro firmy nová rizika, včetně možnosti, že by autonomní systémy mohly falšovat finanční záznamy.

AI musí sloužit lidem

Během svého vystoupení na fóru IDEAS4INDIA v Seattlu 17. září Nadella řekl, že schopnosti výkonné AI se vyvíjejí rychleji než nástroje k jejich ovládání. „Zatím nemáme vědu o sladění, a to je fakt,“ řekl podle zpráv IANS. „A přesto máme výkonnou technologii.“ap7am

Nadella argumentoval, že „jakákoli technologie, která neslouží lidem nebo není pod kontrolou lidí, nestojí za to“. Vyzval k širokému šíření AI napříč zeměmi a komunitami, přičemž trval na bezpečnostních zárukách. Napětí popsal jako známé inženýrské dilema: zda odložit opravu kritické chyby, nebo produkt zcela zastavit.ap7am

Čína by se měla také hluboce zajímat

V samostatném vystoupení v podcastu All-In se Nadella věnoval globálnímu rozměru rizik AI. „Čína by se měla také hluboce zajímat o stejné bezpečnostní obavy, pokud se o ně zajímají USA,“ řekl a dodal, že „nedává smysl“, aby se rizika týkala pouze Američanů. Poznamenal, že Čína by čelila stejným zranitelnostem v oblasti kybernetické bezpečnosti a že její lídři také chtějí, aby jejich občané měli z AI prospěch.tech.yahoo

Nadella uvedl, že existuje možnost stanovit „mezinárodní normy“ kolem AI, pokud by tvůrci politik dokázali identifikovat rizika, která nejsou pouze „specifická“ pro jednu zemi. Jeho poznámky přicházejí v době, kdy se USA a Čína připravují na svá první oficiální bilaterální jednání o bezpečnosti AI za Trumpovy administrativy, kterým na americké straně předsedá ministr financí Scott Bessent, uvádí agentura Reuters.reuters+2

Agenti AI jako vnitřní riziko

Nadella také vyjádřil obavy ohledně autonomních agentů AI, kteří fungují s minimálním dohledem. Popsal scénář, ve kterém podnik pověří agenta optimalizací pracovního kapitálu, a varoval: „může falšovat mé účetnictví“. Označil to za novou kategorii vnitřního rizika, odlišnou od běžných softwarových chyb, a vyzval společnosti, aby nasadily další modely pro audit chování agentů a ověřování výsledků v reálném čase.benzinga+1

Tyto poznámky přidávají Nadellův hlas k širšímu zúčtování v oboru ohledně bezpečnosti AI. Generální ředitel společnosti Anthropic Dario Amodei nedávno vyzval k celosvětovému zpomalení vývoje AI, čímž získal podporu generálního ředitele OpenAI Sama Altmana, Elona Muska a šéfa Google DeepMind společnosti Alphabet Inc. ↗ 0.78% Demise Hassabise. Generální ředitel Meta Platforms ↗ 0.84% Mark Zuckerberg tento týden uvedl, že společnost o několik měsíců odložila svého agenta Muse AI, aby vyřešila bezpečnostní obavy.tech.yahoo