Metan alihankkijat esiintyivät teineinä testatakseen kilpailevia chatbotteja, Wired raportoi

Metan alihankkijat teeskentelivät olevansa lapsia ja lähettivät häiritseviä kuvia kilpaileville chatboteille paljastaakseen turvallisuuspuutteita, kertoo Wired.x+1
Testaus kohdistui Googlen Geminiin ja OpenAI:n ChatGPT:hen, ja niitä painostettiin itsemurhaa, huumeita ja alaikäisiin liittyvää seksuaalista sisältöä koskevilla kehotteilla.winzheng+1
Raportti julkaistiin samaan aikaan, kun Meta nopeuttaa 90 prosentin korvaamista ihmismoderaattoreista tekoälyllä vuoden loppuun mennessä, Financial Timesin mukaan.socialmediatoday+1

Satoja Metan projektissa työskenteleviä alihankkijoita ohjeistettiin esiintymään lapsina ja tutkimaan kilpailevia chatbotteja — mukaan lukien Googlen Gemini Alphabet Inc. ja OpenAI:n ChatGPT — itsemurhaan, seksiin ja huumeisiin liittyvillä kehotteilla, kertoo WIREDin sunnuntaina julkaisema raportti.x+1

Keniassa toimivat alihankkijat lähettivät testauksen osana kuvia, joissa oli pillereitä, veitsiä, hirttosilmukoita ja lääketieteellinen kaavio gynekologisesta toimenpiteestä, raportti totesi. Kehotteet oli suunniteltu viemään kilpailevat tekoälyjärjestelmät äärirajoilleen ja paljastamaan turvallisuuspuutteita siinä, miten nämä chatbotit vastaavat vaarallista sisältöä etsiville alaikäisille.tiktok+3

Ulkoistetun testauksen malli

Paljastus lisää uuden ulottuvuuden jatkuvaan tarkasteluun siitä, miten teknologiayritykset testaavat ja suojaavat tekoälytuotteitaan, erityisesti lasten osalta. Meta on kohdannut toistuvaa kritiikkiä omien chatbottiensa vuorovaikutuksesta alaikäisten kanssa, mukaan lukien sisäinen "red-team"-arviointi, joka osoitti 66,8 prosentin epäonnistumisasteen lapsiin kohdistuvan seksuaalisen hyväksikäytön sisällön estämisessä ja 54,8 prosentin epäonnistumisasteen itsemurha- ja itsensä vahingoittamiskehotteissa. Yritys keskeytti teini-ikäisten pääsyn tekoälykumppanihahmoihin tammikuussa 2026 oikeudellisen paineen vuoksi.axios+1

Ruotsalainen uutissivusto raportoi aiemmin, että Metan alihankkijat Keniassa olivat osallistuneet testaukseen, jossa keskityttiin siihen, miten kilpailijat käsittelivät arkaluonteisia keskusteluja alaikäisiksi väittävien käyttäjien kanssa.instagram

Tekoäly korvaa ihmismoderaattorit

Raportti julkaistaan samaan aikaan, kun Meta nopeuttaa siirtymistään pois ihmisten suorittamasta sisällön moderoinnista. Financial Timesin viime viikolla raportoiman tiedon mukaan yritys aikoo korvata yli 90 prosenttia sisällön tarkistamiseen keskittyvästä työvoimastaan suurilla kielimalleilla vuoden 2026 loppuun mennessä. Meta on jo siirtänyt noin puolet kaikista ihmisten tekemistä tarkistuspyynnöistä tekoälylle tänä vuonna, väittäen järjestelmien tekevän 13 prosenttia vähemmän virheitä kuin ihmistarkastajien, samalla kun ne havaitsevat 10 prosenttia enemmän käytäntörikkomuksia.socialmediatoday+2

Tämän muutoksen inhimilliset kustannukset ovat jo toteutuneet. Huhtikuussa Nairobissa toimiva ulkoistusyritys Sama antoi irtisanomisilmoitukset 1 108 työntekijälle sen jälkeen, kun Meta päätti virallisesti merkittävän yhteistyön. Sopimuksen päättymistä seurasivat kenialaisten työntekijöiden ilmiantoraportit, joissa kuvailtiin häiritsevää sisältöä, jota heitä pyydettiin tarkistamaan Metan älylasien tallenteiden kautta.washingtonpost+2

Metan kaksoisstrategia — käyttää huonosti palkattuja alihankkijoita ulkomailla kilpailijoiden stressitestaamiseen ja samalla eliminoida moderointityöpaikkoja automaation hyväksi — korostaa tekoälyturvallisuuskeskustelun ytimessä olevia jännitteitä, kun yritykset kilpailevat yhä tehokkaampien järjestelmien käyttöönotosta vähemmillä inhimillisillä suojakaiteilla.

Lähteet (65)