superinteligence

Nadella: Superinteligence bez lidské kontroly nestojí za vývoj

Předseda a generální ředitel společnosti Microsoft Satya Nadella v neděli prohlásil, že jakýkoli pokus o vytvoření superinteligence, která "nepomáhá lidstvu a není pod lidskou kontrolou", "nestojí za to, aby byl realizován", čímž se připojil k rostoucímu počtu technologických lídrů volajících…

Sanders vyzývá k pozastavení vývoje AI a zákazu superinteligence

Americký senátor Bernie Sanders v sobotu vyzval prezidenta Donalda Trumpa a čínského prezidenta Si Ťin-pchinga, aby vyjednali smlouvu o pozastavení vývoje pokročilé umělé inteligence a zákazu umělé superinteligence. Argumentuje tím, že nedávné výzvy předních představitelů technologických firem ke zpomalení tempa…

Nový člen správní rady OpenAI varuje před ztrátou kontroly

Den poté, co se stal členem neziskové správní rady OpenAI, vydal výzkumník v oblasti bezpečnosti AI Paul Christiano důrazné varování: rychlá akcelerace schopností umělé inteligence představuje "významné riziko" "katastrofální a nevratné ztráty kontroly v blízké budoucnosti."

Vedoucí vývoje v Anthropic: AI má přes 10% šanci, že vyhladí lidstvo

Evan Hubinger, který vede výzkum zarovnání AI ve společnosti Anthropic, v úterý na síti X napsal, že osobně věří, že existuje více než 10% šance, že AI „by mohla zabít všechny lidi“ během příštího desetiletí. Toto prohlášení vyvolalo přes 10…