DeepMind-grundare lanserar AGI-institut med säkerhetsvarning

Shane Legg, en av de tre medgrundarna till Google Alphabet Inc. ↘ 0.91% DeepMind, varnade på onsdagen för att snabbt framåtskridande artificiell intelligens inte får springa ifrån de säkerhetskontroller som är utformade för att styra den, när han tillkännagav lanseringen av DeepMind Institute, ett nytt organ som syftar till att utforska konsekvenserna av artificiell generell intelligens.reuters+1

Institutet är avsett att "lyfta" den offentliga debatten kring AGI genom att göra företagets tekniska forskning tillgänglig för en bredare publik, sade Legg i en intervju med Financial Times. AI-företagens oro för rekursiv självförbättring har vuxit i takt med att alltmer kapabla AI-agenter visar förmåga att skriva mjukvara, utföra autonoma uppgifter och bistå vid utvecklingen av andra AI-system.ft+1

En grundare återvänder till sitt uppdrag

Legg, som innehar titeln chefsforskare för AGI på Google DeepMind, har länge varit en av de mest säkerhetsfokuserade rösterna inom laboratoriet. Han grundade DeepMind i London tillsammans med Demis Hassabis och Mustafa Suleyman med det uttalade målet att uppnå AGI. I januari sade Legg att han såg en 50-procentig chans att nå vad han kallade "minimal AGI" – där AI hanterar standardmässiga kognitiva uppgifter för människor – senast 2028.observer

Lanseringen av DeepMind Institute sker vid en turbulent tidpunkt för organisationen. I augusti tillkännagav Alphabets VD Sundar Pichai en omfattande omstrukturering av ledningen: Hassabis lämnade den dagliga driften för att bli styrelseordförande för Google DeepMind och Alphabets chefsforskare, medan den mångårige teknikchefen Koray Kavukcuoglu befordrades till senior vice president med ansvar för enheten. Jeff Dean, Googles chefsforskare under 27 år, lämnade företaget för att vara med och grunda ett nytt AI-fokuserat bolag för allmännyttiga ändamål.studioglobal+1

Bredare expansion och satsning på genomik

Google DeepMind har också utökat sin forskningsverksamhet utanför kärnområdet för AI-utveckling. Tidigare i år inledde laboratoriet ett samarbete med Wellcome Sanger Institute och Google.org för att lansera ett AI-genomikkonsortium, där Google DeepMind och Google.org förbinder sig att satsa 5 miljoner dollar per år under fem år för att bygga högkvalitativa, AI-klara genomiska dataset.sanger+1

De tre ursprungliga DeepMind-grundarna innehar nu markant olika positioner i AI-landskapet: Hassabis balanserar gränsöverskridande forskning och läkemedelsutveckling genom Isomorphic Labs; Suleyman leder Microsoft ↘ 1.72% AI och dess konsumentprodukter; och Legg förblir fokuserad på de säkerhetsfrågor som präglade laboratoriets grundande för mer än ett decennium sedan.observer