DeepMindin entiset tutkijat perustivat voittoa tavoittelemattoman järjestön varmistamaan tekoälyn ihmisvalvonnan

Ryhmä entisiä Google Alphabet Inc. ↗ 1.59% DeepMindin tutkijoita on perustanut Sampura Research -nimisen voittoa tavoittelemattoman järjestön, jonka tavoitteena on varmistaa, että ihmiset pysyvät keskeisessä roolissa yhä tehokkaampien tekoälyjärjestelmien valvonnassa. Lontoossa toimiva järjestö, josta ilmoitettiin virallisesti 24. elokuuta, pyrkii rakentamaan niin kutsuttuja vahvempia "tuomareita" eli ihmisen ja tekoälyn hybridijärjestelmiä, jotka kykenevät arvioimaan, toimivatko mallit turvallisesti ja tarkoitetulla tavalla.bloomberg+2

Vastapaino tekoälyn valvomalle tekoälylle

Sampura Researchin perustajia ovat Rishub Jain, Joshua Jacob ja Alex Adams, jotka kaikki työskentelivät aiemmin Google DeepMindilla. Jain työskenteli laboratoriossa seitsemän vuotta, joista kaksi keskittyi skaalautuvaan valvontatutkimukseen ja panoksiin muun muassa AlphaFold-projektissa. Jacob toimi DeepMindin ihmisdatatekniikan toisena johtajana ja työskenteli aiemmin Waymolla.EdTech Innovation Hub+4

Järjestö asemoituu vastapainoksi alan vallitsevalle suuntaukselle käyttää tekoälyä tekoälyn valvontaan. Vaikka menetelmä on nopea, Jainin mukaan se jättää aukkoja, joita ihmisen harkintakyky voi auttaa täyttämään. Bloombergin mukaan Jain uskoo, että ihmisillä on edelleen keskeinen rooli mallien käyttäytymisen todentamisessa, vaikka tekoälyjärjestelmien kyvykkyys kasvaa.Bloomberg Law+1

Valvontainfrastruktuurin rakentaminen

Sampuran tutkimusohjelma keskittyy sellaisten tietoaineistojen kehittämiseen, joilla mitataan, kuinka tehokkaasti ihmiset ja tekoälyjärjestelmät pystyvät todentamaan mallien tuotoksia, ja näiden vertailukohtien käyttämiseen valvontamenetelmien parantamiseksi. Järjestö määrittelee "tuomarin" järjestelmäksi, joka voi olla "ihminen, tekoäly tai hybridijärjestelmä, joka arvioi tekoälyn käyttäytymisen oikeellisuutta ja linjausta keskustelussa tai agentin toimintapolussa".sampura+1

Suunniteltuihin työvirtoihin kuuluvat tulevaisuuden haittoja ennakoivat tietoaineistot, menetelmät alitehtävien jakamiseksi ihmisten ja tekoälyn välillä sekä avoimen lähdekoodin ihmisarviointialusta. Tiimi rekrytoi Lontoossa vähintään kuutta kokenutta tekoälytutkijaa 100 000–290 000 punnan palkalla.EdTech Innovation Hub+1

Laajemman turvallisuuskeskustelun keskellä

Järjestön perustaminen ajoittuu aikaan, jolloin huoli tekoälyn valvontakyvystä on kasvanut. Reutersin raportissa todettiin, että tekoälyyritykset "eivät vielä pysty hallitsemaan sitä, mitä ovat rakentaneet". Samaan aikaan voittoa tavoittelematon METR-järjestö, joka arvioi itsenäisesti OpenAI:n, Anthropicin, Googlen ja Metan ↗ 3.01% huippumalleja, on kamppaillut riittävän henkilöstön palkkaamisen kanssa, vaikka se tarjoaa yli 500 000 dollarin palkkoja. Heinäkuun lopussa yli 1 100 tekoälyalan ammattilaista allekirjoitti avoimen kirjeen, jossa kehotettiin Yhdysvaltain hallitusta tukemaan kansainvälistä mekanismia huipputason kehityksen hidastamiseksi tarvittaessa.news.aibase.com+2

Jainin lähtö oli osa laajempaa osaajapakoa DeepMindilta kesäkuussa 2026, jolloin laboratorio menetti viisi keskeistä tutkijaa kuuden päivän aikana.kucoin.com