Metas Muse Image bruker offentlige Instagram-bilder for AI uten samtykke

Meta ↘ 0.96% rullet tirsdag ut Muse Image, sin første egenutviklede AI-bildegenereringsmodell bygget av Meta Superintelligence Labs. Dette utløste umiddelbart en personvernstorm etter at brukere oppdaget at verktøyet kan hente bilder fra offentlige Instagram-kontoer for å generere AI-bilder av ekte mennesker – uten å varsle dem eller kreve deres samtykke.

Hvordan det fungerer

Muse Image er tilgjengelig gratis i Meta AI-appen, Instagram Stories og WhatsApp-direktemeldinger, med planer om å utvide til Facebook og Messenger senere i år. Modellen kan tolke komplekse ledetekster, blande flere bilder og la brukere redigere genererte bilder gjennom skisser eller merknader. Den driver også mer enn 30 nye AI-effekter for Instagram Stories i USA.cnbc+2

Funksjonen som får skarpest kritikk, lar hvem som helst tagge en offentlig Instagram-profil i en ledetekst, hvorpå Meta AI henter personens bilder for å generere nye bilder ved hjelp av deres likhet. "Enten du vil designe en tilpasset invitasjon til et arrangement, lage et samarbeidende kreativt konsept eller generere en personlig grafikk, lar tagging av et brukernavn Meta AI bruke offentlige bilder for å bygge et visuelt element som er klart til å legges ut," skrev Meta i sin kunngjøring.wired+1

Velge bort, ikke velge inn

Offentlige Instagram-kontoer er automatisk registrert i systemet som standard. Brukere som ønsker å forhindre at innholdet deres blir brukt, må navigere til profilinnstillingene sine, finne fanen "Deling og gjenbruk" og slå av alternativet merket "Tillat at folk bruker innholdet ditt på Instagram og med AI-funksjoner hos Meta".welcome+2

Instagrams hjelpesenter opplyser at brukere "ikke vil bli varslet om innhold opprettet ved hjelp av AI-funksjoner hos Meta", noe som betyr at noens bilder kan bli remikset uten deres kunnskap. I tillegg vil allerede eksisterende AI-bilder laget av en brukers innhold ikke bli slettet selv etter at man har valgt bort funksjonen.wired

Et kjent mønster

Tilnærmingen med å velge bort passer inn i et gjentakende mønster som har trukket regulatorisk granskning til Meta tidligere. Selskapet har møtt etterforskning og bøter fra europeiske datatilsynsmyndigheter over bruken av brukerdata til AI-trening uten eksplisitt samtykke. Kritikere hevder at den nye funksjonen forsterker disse bekymringene ved å utvide databruken utover trening til direkte innholdsgenerering som involverer identifiserbare individer.

Meta beskrev Muse Image som et konkurransedyktig svar på OpenAI sine GPT Images og Google Alphabet Inc. ↘ 1.08% sine bildegenereringsverktøy. Modellen, opprinnelig kodenavnet Mango, ble ledet av Alexandr Wang ved Meta Superintelligence Labs og erstatter teknologi Meta tidligere lisensierte fra AI-oppstartsselskapet Midjourney. En videogenereringsmodell, Muse Video, forventes å følge etter.nytimes+2