Spoluzakladatel DeepMind spouští institut pro AGI a varuje před riziky

Shane Legg, jeden ze tří spoluzakladatelů společnosti Google Alphabet Inc. ↗ 0.30% DeepMind, ve středu varoval, že rychle se rozvíjející umělá inteligence nesmí předstihnout bezpečnostní kontrolní mechanismy, které ji mají řídit. Oznámil přitom spuštění DeepMind Institute, nového orgánu zaměřeného na zkoumání důsledků obecné umělé inteligence (AGI).reuters+1

Institut má za cíl „pozvednout“ veřejnou debatu o AGI tím, že technický výzkum společnosti zpřístupní širšímu publiku, uvedl Legg v rozhovoru pro Financial Times. Obavy společností zabývajících se AI ohledně rekurzivního sebezdokonalování rostou, protože stále schopnější agenti AI prokazují schopnost psát software, provádět autonomní úkoly a pomáhat při vývoji dalších systémů AI.ft+1

Zakladatel se vrací ke svému poslání

Legg, který zastává pozici hlavního vědce pro AGI v Google DeepMind, byl dlouho jedním z hlasů v laboratoři, které se nejvíce zaměřují na bezpečnost. Společnost DeepMind založil v Londýně společně s Demisem Hassabisem a Mustafou Suleymanem s jasným cílem dosáhnout AGI. V lednu Legg uvedl, že vidí 50procentní šanci na dosažení toho, co nazval „minimální AGI“ – kdy AI zvládá standardní lidské kognitivní úkoly – do roku 2028.observer

Spuštění DeepMind Institute přichází v turbulentním období pro celou organizaci. V srpnu generální ředitel Alphabet Sundar Pichai oznámil rozsáhlou restrukturalizaci vedení: Hassabis ustoupil z každodenních operací, aby se stal předsedou Google DeepMind a hlavním vědcem Alphabet, zatímco dlouholetý technický ředitel Koray Kavukcuoglu byl povýšen na seniorního viceprezidenta řídícího tuto jednotku. Jeff Dean, hlavní vědec Googlu po dobu 27 let, odešel, aby spoluzaložil novou korporaci veřejného prospěchu zaměřenou na AI.studioglobal+1

Širší expanze a důraz na genomiku

Google DeepMind také rozšiřuje svůj výzkumný záběr mimo hlavní vývoj AI. Začátkem tohoto roku laboratoř navázala partnerství s Wellcome Sanger Institute a Google.org za účelem spuštění konsorcia pro genomiku AI, přičemž Google DeepMind a Google.org se zavázaly investovat 5 milionů dolarů ročně po dobu pěti let do budování vysoce kvalitních genomických datových sad připravených pro AI.sanger+1

Tři původní zakladatelé DeepMind nyní zastávají výrazně odlišné pozice v oblasti AI: Hassabis se prostřednictvím Isomorphic Labs pohybuje na pomezí špičkového výzkumu a objevování léků; Suleyman vede divizi Microsoft ↘ 0.66% AI a její spotřebitelské produkty; a Legg zůstává zaměřen na bezpečnostní otázky, které stály u zrodu laboratoře před více než deseti lety.observer