DeepMind-gründer lanserer AGI-institutt med sikkerhetsadvarsel

Shane Legg, en av de tre medgründerne av Google Alphabet Inc. ↗ 0.16% DeepMind, advarte onsdag om at raskt fremadskridende kunstig intelligens ikke må løpe fra sikkerhetskontrollene som er designet for å styre den, da han kunngjorde lanseringen av DeepMind Institute, et nytt organ som skal utforske implikasjonene av kunstig generell intelligens.reuters+1

Instituttet har som mål å "løfte" den offentlige debatten rundt AGI ved å gjøre selskapets tekniske forskning tilgjengelig for et bredere publikum, sa Legg i et intervju med Financial Times. AI-selskapers bekymring for rekursiv selvforbedring har vokst ettersom stadig mer kapable AI-agenter viser evne til å skrive programvare, utføre autonome oppgaver og bistå i utviklingen av andre AI-systemer.ft+1

En gründer vender tilbake til sitt oppdrag

Legg, som har tittelen sjefsforsker for AGI hos Google DeepMind, har lenge vært en av de mest sikkerhetsfokuserte stemmene i laboratoriet. Han var med på å grunnlegge DeepMind i London sammen med Demis Hassabis og Mustafa Suleyman med det eksplisitte målet om å oppnå AGI. I januar sa Legg at han så 50 prosent sjanse for å nå det han kalte "minimal AGI" – der AI håndterer standard menneskelige kognitive oppgaver – innen 2028.observer

Lanseringen av DeepMind Institute kommer i en turbulent tid for organisasjonen. I august kunngjorde Alphabet-sjef Sundar Pichai en omfattende lederrestrukturering: Hassabis trakk seg fra den daglige driften for å bli styreleder for Google DeepMind og Alphabets sjefsforsker, mens mangeårig teknologidirektør Koray Kavukcuoglu ble forfremmet til senior visepresident med ansvar for enheten. Jeff Dean, Googles sjefsforsker i 27 år, sluttet for å være med på å grunnlegge et nytt AI-fokusert selskap for allmennyttige formål.studioglobal+1

Bredere ekspansjon og satsing på genomikk

Google DeepMind har også utvidet sitt forskningsfelt utover kjerneområdet for AI-utvikling. Tidligere i år inngikk laboratoriet et samarbeid med Wellcome Sanger Institute og Google.org for å lansere et AI-genomikk-konsortium, der Google DeepMind og Google.org forplikter seg til 5 millioner dollar per år over fem år for å bygge høykvalitets, AI-klare genomiske datasett.sanger+1

De tre opprinnelige DeepMind-gründerne innehar nå svært forskjellige posisjoner i AI-landskapet: Hassabis balanserer grensesprengende forskning og legemiddelutvikling gjennom Isomorphic Labs; Suleyman leder Microsoft ↘ 0.63% AI og selskapets forbrukerprodukter; og Legg forblir fokusert på sikkerhetsspørsmålene som preget laboratoriets grunnleggelse for mer enn et tiår siden.observer