Google siirtää tekoälyn turvallisuustiiminsä pois DeepMind-laboratoriosta

Google Alphabet Inc. ↗ 0.46% siirtää noin 90-henkisen tekoälyn vastuullisuustiiminsä pois Google DeepMindista Global Affairs -osastoonsa, joka vastaa lobbauksesta ja julkisesta politiikasta, selviää The Wall Street Journal News Corp ↘ 0.28% näkemästä sisäisestä sähköpostista. Syyskuun alussa voimaan tuleva muutos on herättänyt työntekijöissä huolta siitä, että tiimin riippumattomuus ja kyky tunnistaa riskejä huipputason tekoälymalleissa heikkenevät.wsj

Uudelleenjärjestely johtomuutosten jälkeen

Uudelleenjärjestely seuraa DeepMindin laajempaa muutosta, jossa perustaja ja toimitusjohtaja Demis Hassabis siirtyi uuteen hallituksen puheenjohtajan rooliin. Jotkut tekoälyn vastuullisuustiimin jäsenet ovat ilmaisseet huolensa siitä, että raportointirakenteen muutos vaikuttaa kielteisesti heidän työhönsä, kertovat kaksi Journalin haastattelemaa nykyistä DeepMindin työntekijää.moomoo+1

Etiikkatiimi on keskittynyt huipputason tekoälyriskien arviointiin, mukaan lukien kemiallisten, biologisten, radiologisten ja ydinvoimaan liittyvien vaarojen arviointiin mallien testauksen aikana, sekä käyttäjien ja tekoälybottien välisten vuorovaikutusten psykologisten vaikutusten tutkimiseen. Työntekijät pelkäävät, että tiimin siirtäminen pois Gemini-mallin kehitysryhmän läheisyydestä voi heikentää sen kykyä tehdä riippumatonta tutkimusta ja varoittaa kehittyvistä uhista edistyneissä malleissa.moomoo

Google vakuuttaa pääsyn säilyvän

Google on vakuuttanut, että tiimi säilyttää pääsyn DeepMindin resursseihin, laskentatehoon ja henkilöstöön, kun taas muut mallien käyttäytymisestä, yksityisyydestä ja turvallisuudesta vastaavat ryhmät pysyvät DeepMindin sisällä. Uudelleenjärjestely on osa DeepMindin laajempaa integrointia Googlen yritysrakenteeseen, ja myös siihen liittyviä HR- ja politiikkatiimejä siirretään pois laboratoriosta.moomoo

Siirto tapahtuu DeepMindin jatkuvien johtomuutosten ja henkilöstön vaihtuvuuden keskellä, mikä herättää laajempia kysymyksiä siitä, miten suuret tekoälylaboratoriot tasapainottavat tehokkaiden mallien nopean kehityksen ja sisäiset valvontamekanismit, joiden on tarkoitus havaita mahdolliset haitat ennen käyttöönottoa.