Nye AI-lyttefunksjoner på Apple Watch skaper personverndebatt

Apple ↘ 0.52% avduket onsdag Audio Intelligence, en pakke med AI-drevne lyttefunksjoner for Apple Watch Series 12 og Apple Watch Ultra 4. Dette har utløst en debatt om hvorvidt teknologien representerer et gjennombrudd for tilgjengelighet eller et skritt mot altomfattende overvåking.

Funksjonene ble kunngjort på selskapets «Surprise and Shine»-arrangement sammen med iPhone Duo og annen maskinvare. Audio Intelligence inneholder fire verktøy: Live Rewind, som transkriberer de siste 15 sekundene av en samtale når brukeren dobbelttrykker på Digital Crown; Siri Recap, som bruker bakgrunnslytting til å lage overordnede sammendrag av samtaler gjennom dagen; Sound Recognition, som varsler brukere om sirener, alarmer, dørklokker og babygråt; og Music Recognition, som automatisk identifiserer sanger via Shazam.theverge+1

Slik sier Apple at de beskytter personvernet

Apple publiserte et detaljert personverndokument sammen med kunngjøringen, der de forklarer at all lydbehandling skjer innenfor et maskinvareisolert område kalt Secure Exclave på den nye S11-brikken. «Rålyd som brukes til behandling er fullstendig utilgjengelig for operativsystemer, apper, brukeren eller Apple,» uttalte selskapet. Secure Exclave bruker en kontinuerlig overskrevet lydbuffer som aldri oppretter et lagret opptak.theverge

Live Rewind gir fra seg et hørbart signal og viser en mikrofonanimasjon i fullskjerm når den aktiveres, selv i lydløs modus. Siri Recap tilskriver ikke uttalelser til enkeltpersoner og er utformet for å utelate finansielle detaljer og offentlige identifikatorer. Begge funksjonene produserer ende-til-ende-kryptert tekst når de synkroniseres gjennom iCloud, og Siri Recap sletter sammendrag automatisk etter syv dager med mindre de lagres manuelt.zdnet+1

Spørsmålet om samtykke

Til tross for Apples forsikringer har funksjonene raskt møtt kritikk. «Audio intelligence er i ferd med å bli et massivt personvernmareritt,» skrev en Reddit-bruker kort tid etter kunngjøringen, ifølge Unilad Tech. Som TechCrunch bemerket, normaliserer teknologien «ideen om at teknologien alltid lytter» og reiser uavklarte spørsmål om samtykkelover.techcrunch+1

I delstater med krav om samtykke fra alle parter må alle deltakere i en samtale gå med på å bli tatt opp. Apples system lagrer ikke lydopptak, men genererer i stedet AI-genererte tekstsammendrag, et skille som eksisterende avlyttingslover ikke ble skrevet for å håndtere. «Tilsvarer maskinbehandlede sammendrag av rålyd et obskurt opptak av noen?» spurte ZDNet, og bemerket at lovverket ikke har holdt følge med teknologien.zdnet

TechCrunch bemerket også at den subtile bevegelsen med å trykke på klokkekronen er langt mindre iøynefallende enn å holde opp en telefon for å ta opp, selv med Apples lydsignal og indikator på skjermen.techcrunch

Hva skjer videre

Live Rewind og Siri Recap blir tilgjengelige i beta på engelsk når watchOS 27 lanseres 14. september, mens støtte for fransk, japansk, koreansk, portugisisk og spansk kommer i oktober. Apple Watch Series 12 starter på 399 dollar og Ultra 4 på 799 dollar, med forhåndsbestillinger åpne nå og salgsstart 18. september. Funksjonene vil ikke være tilgjengelige i EU eller Kina ved lansering.techspot+1

Hvorvidt Apple har funnet den rette balansen mellom nytte og personvern vil til syvende og sist kanskje ikke avgjøres av forbrukerne alene, men av lovgivere og domstoler som må håndtere en teknologikategori loven ennå ikke har definert.