Nederlandsk tilsyn gir Uber bot på 825 millioner euro for automatiserte utestengelser

Det nederlandske datatilsynet har ilagt Uber ↘ 3.43% en bot på 825 millioner euro, tilsvarende rundt 9,5 milliarder kroner, for bruk av automatiserte systemer til å suspendere og deaktivere sjåførkontoer uten tilstrekkelig menneskelig kontroll. Dette er den nest største boten som noen gang er utstedt under EUs personvernforordning (GDPR).techcrunch+1

Avgjørelsen fokuserer på en mindre kjent bestemmelse i GDPR som beskytter enkeltpersoner mot viktige beslutninger som utelukkende er tatt av automatiserte prosesser. Nestleder Monique Verdier uttalte at Uber har "begått alvorlige brudd", og la til at "en datamaskin ikke bør ta beslutninger på egen hånd som får så store konsekvenser."techcrunch

Saken mot Uber

Etterforskningen avdekket at Ubers systemer mellom 2020 og 2022 kunne suspendere sjåfører midlertidig ved mistanke om svindel, og deaktivere kontoer permanent ved lave kundevurderinger. Tilsynet mener disse beslutningene hadde stor innvirkning på sjåførenes levebrød og krevde meningsfull menneskelig involvering. Saken startet med Brahim Ben Ali, en tidligere Uber-sjåfør i Frankrike hvis konto ble deaktivert i 2019. Han samlet inn vitnemål fra rundt 170 andre sjåfører før han fremmet klagen i Nederland, hvor Ubers europeiske hovedkvarter ligger.adgully+1

Ben Ali fikk bistand fra den sveitsiske ideelle organisasjonen PersonalData.io. Grunnleggeren Paul-Olivier Dehaye påpekte at en sjåfør "kan fullføre tusen turer med fornøyde passasjerer, men hvis bare én person rapporterer et svært alvorlig problem, kan konsekvensene bli enorme." Dehaye bemerket at dette er den tredje boten det nederlandske tilsynet har ilagt Uber, etter en bot på 290 millioner euro i 2024 knyttet til overføring av sjåførers personopplysninger til USA.techcrunch+1

Uber planlegger anke

Uber avviser avgjørelsen. "Vi er sterkt uenige i denne avgjørelsen og den uforholdsmessige boten, som vi vil anke," sa en talsperson for selskapet, og la til at tilsynet "gransket historiske retningslinjer som ble avviklet for flere år siden." Selskapet hevder at midlertidig utestengelse ved mistanke om svindel ble avsluttet i 2021, og at vurderingsbasert deaktivering i EU ble avsluttet i 2022, og at deres nåværende prosesser inkluderer menneskelig vurdering og ankemuligheter.techround+1

Grunnet ankebehandlingen må boten ikke betales før anken er ferdigbehandlet, noe som kan ta flere år.techround

Bredere implikasjoner for AI-beslutninger

Avgjørelsen kommer samtidig som tilsynsmyndigheter over hele Europa gransker hvordan algoritmer påvirker enkeltpersoner, fra rekruttering til lånesøknader. Dehaye sier han planlegger å starte et gruppesøksmål der sjåfører kan kreve erstatning, og han etablerer selskapet StartClaims for å støtte rettslige skritt mot Uber og etter hvert andre plattformer i gig-økonomien.techcrunch

Boten er kun forbigått av gebyret på 1,2 milliarder euro som ble ilagt Meta ↘ 0.96% i 2023 i GDPR-sammenheng. For selskaper som tar i bruk automatisert beslutningstaking i stor skala, signaliserer saken at EUs personvernrammeverk i økende grad fungerer som en regelbok for hvordan teknologi kan brukes.adgully