Stofnandi DeepMind opnar AGI stofnun með viðvörun um öryggi

Shane Legg, einn af þremur stofnendum Google Alphabet Inc. ↗ 0.78% DeepMind, varaði við því á miðvikudag að hröð þróun gervigreindar megi ekki fara fram úr þeim öryggisráðstöfunum sem ætlað er að stýra henni, þegar hann tilkynnti um stofnun DeepMind Institute, nýrrar einingar sem ætlað er að kanna áhrif almennrar gervigreindar (AGI).reuters+1

Stofnuninni er ætlað að „efla“ opinbera umræðu um AGI með því að gera tæknilegar rannsóknir fyrirtækisins aðgengilegar breiðari hópi, sagði Legg í viðtali við Financial Times. Áhyggjur gervigreindarfyrirtækja af sjálfvirkri endurbót hafa aukist eftir því sem hæfari gervigreindarforrit sýna getu til að skrifa hugbúnað, framkvæma sjálfstæð verkefni og aðstoða við þróun annarra gervigreindarkerfa.ft+1

Stofnandi snýr aftur að markmiði sínu

Legg, sem gegnir stöðu yfirvísindamanns AGI hjá Google DeepMind, hefur lengi verið einn af þeim sem leggja mesta áherslu á öryggi innan rannsóknarstofunnar. Hann stofnaði DeepMind í London ásamt Demis Hassabis og Mustafa Suleyman með það skýra markmið að ná fram AGI. Í janúar sagðist Legg telja 50 prósent líkur á því að ná því sem hann kallar „lágmarks AGI“ þar sem gervigreind leysir hefðbundin vitsmunaleg verkefni manna fyrir árið 2028.observer

Stofnun DeepMind Institute kemur á ólgutímum fyrir fyrirtækið. Í ágúst tilkynnti Sundar Pichai, forstjóri Alphabet, um umfangsmikla endurskipulagningu stjórnenda: Hassabis dró sig í hlé frá daglegum rekstri til að verða stjórnarformaður Google DeepMind og yfirvísindamaður Alphabet, á meðan Koray Kavukcuoglu, sem lengi var tæknistjóri, var gerður að aðstoðarforstjóra sem stýrir einingunni. Jeff Dean, yfirvísindamaður Google til 27 ára, hætti til að vera meðstofnandi nýs almannaheillafyrirtækis sem einbeitir sér að gervigreind.studioglobal+1

Víðtækari stækkun og áhersla á erfðafræði

Google DeepMind hefur einnig verið að stækka rannsóknarsvið sitt út fyrir kjarnaþróun gervigreindar. Fyrr á þessu ári gekk rannsóknarstofan í samstarf við Wellcome Sanger Institute og Google.org um að stofna samsteypu um erfðafræði gervigreindar, þar sem Google DeepMind og Google.org skuldbundu sig til að leggja fram 5 milljónir dollara á ári í fimm ár til að byggja upp hágæða erfðagagnasett sem eru tilbúin fyrir gervigreind.sanger+1

Upphaflegu stofnendur DeepMind þrír gegna nú ólíkum stöðum í gervigreindargeiranum: Hassabis vinnur bæði að grunnrannsóknum og lyfjaþróun í gegnum Isomorphic Labs; Suleyman stýrir Microsoft ↘ 0.99% AI og neytendavörum þess; og Legg einbeitir sér áfram að öryggisspurningunum sem voru drifkrafturinn á bak við stofnun rannsóknarstofunnar fyrir meira en áratug.observer