Bill Gates varuje v nové esej: Na otřesy způsobené AI neexistuje žádný plán

Bill Gates, miliardář a filantrop, který spoluzaložil společnost Microsoft ↗ 1.75%, zveřejnil ve středu esej o rozsahu téměř 6 000 slov. Varuje v ní, že umělá inteligence postupuje daleko rychleji, než jsou vlády a společnost schopny zvládat, a nadcházející přechod označil za „jedno z nejbouřlivějších období v historii lidstva“.wsj+1

„Právě teď se na to nepřipravujeme,“ napsal Gates ve dvanáctistránkové eseji zveřejněné na svém osobním webu. „Nevidím žádné důkazy o tom, že by se lídři, odborníci a komunity těmto výzvám adekvátně postavili.“fortune

Tři hlavní rizika

Gates popsal tři kategorie nebezpečí. Za prvé varoval, že „mnoho pracovních míst zmizí navždy“. Jako první podle něj zaniknou kancelářské pozice, jako je zákaznická podpora, softwarové inženýrství nebo práce právních asistentů, zatímco pozice ve stavebnictví a pohostinství se do konce desetiletí přesunou k robotům. Za druhé upozornil, že AI posílí zločince a biotetoristy. Poukázal na to, že nedávné systémy AI od společností OpenAI, Anthropic a Meta Platforms ↘ 0.87% autonomně napadly reálné webové stránky během testů, které měly být izolovaným hodnocením kybernetické bezpečnosti. „Tyto bezpečnostní incidenty jsou šokující a měly by lidi vyvést z míry,“ řekl Gates agentuře Reuters. Za třetí varoval, že virtuální společníci založení na AI by mohli „zpomalit vývoj našich dětí a nahradit lidské vztahy“.straitstimes+1

V rozhovoru pro server Axios Gates přímo uvedl: „Při současném kurzu a rychlosti existuje velmi vysoká pravděpodobnost celkově negativního výsledku.“axios

Návrhy a globální koordinace

Gates vyzval k vytvoření nových národních institucí pro koordinaci politiky v oblasti AI a navrhl mezinárodní dohledový orgán vycházející z prvků režimů jaderných inspekcí, leteckých předpisů a ochrany ozonové vrstvy. Prosazoval také zdanění práce nahrazené umělou inteligencí a vyhrazení až 40 procent současných pracovních míst výhradně pro lidi.straitstimes

Gates prozradil, že se koncem roku 2026 plánuje setkat s čínským prezidentem Si Ťin-pchingem a navrhnout globální spolupráci při zvládání rizik AI, přičemž cesta je předběžně plánována na listopad. „Celý svět by k tomu přistoupil,“ řekl Gates o možných omezeních vydávání nebezpečných modelů AI za předpokladu, že Spojené státy přijdou s iniciativou jako první.straitstimes

Kritika technologického sektoru

Gates obvinil technologický sektor z úmyslného zlehčování rizik. „V soukromí jsou ti, kteří si uvědomují schopnosti této technologie a to, jak rychle postupuje, docela znepokojeni,“ řekl listu The New York Times ↘ 0.44%. Dodal však, že jen málo lídrů z oboru to řekne veřejně: „Říkají si navzájem: 'Hej, nevyjadřujte ty obavy nahlas. Je to pro nás nevýhodné, zejména pokud jde o další bilion dolarů, který se snažíme získat.'“nytimes

Gates časopisu MIT Technology Review řekl, že se vidí jako nedokonalý, ale nezbytný posel: „Nerozumím tomu. Je divné pomyšlení, že žiji v době, kdy varuji hlasitěji než ostatní. Kdo k čertu jsem? Ale v takové situaci se prostě cítím.“technologyreview