Nepal vaatii Metaa ja TikTokia poistamaan tulvista luodun tekoälysisällön

Nepalin kamppaillessa yhden lähihistoriansa tuhoisimman luonnonkatastrofin kourissa hallitus on kääntänyt katseensa verkossa kytevään toiseen kriisiin: sosiaalisessa mediassa leviävään tekoälyvideoiden tulvaan, huijauslahjoituksiin ja vanhojen katastrofivideoiden kierrätykseen.

Hallitus haastaa alustat

Nepalin viranomaiset kävivät perjantaina neuvotteluja Metan ↘ 3.72% ja TikTokin paikallisten edustajien kanssa ja kehottivat molempia yhtiöitä toimimaan nopeammin harhaanjohtavaa sisältöä vastaan, jota on levinnyt Trishuli-joen varrella elokuun 26. päivänä tapahtuneiden äkkitulvien jälkeen. Bijay Kumar Roy, hallituksen sosiaalisen median sääntely- ja hallintatyöryhmän koordinaattori, kertoi viranomaisten pyytäneen alustoja poistamaan kyseenalaisen ja harhaanjohtavan sisällön heti, kun siitä tehdään ilmoitus. Hallitus myös vaati yhtiöitä tekemään algoritmeistaan aktiivisempia graafisen ja valheellisen materiaalin havaitsemisessa.trtworld

Tällä hetkellä Metalla ja TikTokilla kestää 24:stä 48 tuntiin reagoida ilmoitettuihin julkaisuihin. Viranomaisten mukaan tämä on aivan liian hidas tahti kriisin laajuuteen nähden. Ilmoitetun sisällön joukossa on tekoälyllä luotuja videoita, joita väitetään aidoiksi katastrofivideoiksi, vanhoja leikkeitä muista tulvista sekä QR-koodeja, joilla kalastellaan huijauslahjoituksia uhrien kustannuksella.straitstimes+1

Tekoälyväärennökset heikentävät todellista kriisiapua

Faktantarkistajat ovat jo tunnistaneet useita väärennettyjä sisältöjä. Uutistoimisto AFP vahvisti, että laajalle levinnyt 10 sekunnin video, jonka väitettiin näyttävän tulvaveden nielaisevan kaupungin, tunnistettiin Googlen SynthID-työkalulla tekoälyn luomaksi. BBC ja Australian AAP FactCheck dokumentoivat muita esimerkkejä ja panivat merkille paljastavia visuaalisia poikkeamia: esineitä katoaa kuvien välillä, rakenteet muuttuvat kivenjärkäleiksi ja rakennuksia ilmestyy tyhjästä kameran kääntyessä. Meta itse merkitsi osan julkaisuista "tekoälysisällöksi", ja OpenAI:n tunnistusohjelmisto löysi näkymättömiä vesileimoja, jotka vahvistavat tekoälytuotannon.malaysia.news.yahoo+3

Väärennetty sisältö leviää aitojen kuvien rinnalla Facebookissa, Instagramissa, TikTokissa, YouTubessa ja X-palvelussa useilla eri kielillä.yahoo

Humanitaarinen kriisi syvenee

Taistelu virheellistä tietoa vastaan käydään samaan aikaan, kun kuolleiden määrä jatkaa nousuaan. Perjantaihin mennessä Nepalin viranomaiset ilmoittivat ainakin 553–579 kuolleesta ja yli 1 900 kadonneesta henkilöstä. Pelastettuja on yli 3 700. Yhdysvaltain geologian tutkimuskeskuksen mukaan äkkitulvat saivat alkunsa jäätikön romahduksesta Nepalin ja Tiibetin rajan tuntumassa. Tulva iski ensin Kiinan rajavartioasemalle ennen kuin se syöksyi alavirtaan Nepalin Rasuwan ja Nuwakotin piirikuntiin. Kiinan puolella valtionmedia raportoi 554 ihmisen olevan kadoksissa.reuters+2

Kansainvälinen apu on alkanut saapua perille. Kanada ilmoitti torstaina 5 miljoonan dollarin humanitaarisesta avusta, ja Yhdysvaltain katolisten piispojen konferenssi kehotti kansainvälistä yhteisöä mobilisoimaan tukea. Catholic Relief Services kertoi koordinoivansa toimia Caritas Nepalin kanssa selvittääkseen parhaat tavat auttaa kärsineitä yhteisöjä.vaticannews+1