Met een boete van bijna 825 miljoen euro heeft de Nederlandse privacytoezichthouder Uber hard teruggefloten wegens een werkwijze waarbij chauffeurs door geautomatiseerde systemen tijdelijk of definitief van het platform konden worden verwijderd zonder voldoende uitleg, betekenisvolle menselijke beoordeling of een reële mogelijkheid om een fout besluit onmiddellijk te laten herstellen, waardoor een digitale maatregel in één klap kon uitmonden in het wegvallen van iemands inkomen.
De zaak raakt aan een steeds urgenter probleem binnen de platformeconomie, waarin algoritmen niet langer alleen ritten verdelen, prijzen berekenen of prestaties meten, maar ook feitelijk beslissen wie nog mag werken en wie wordt uitgesloten, terwijl de betrokken werknemer of zelfstandige vaak niet weet welke gegevens zijn gebruikt, welke regel is overtreden en bij wie hij terechtkan wanneer de computer ernaast zit.
De sanctie heeft betrekking op besluiten die tussen 2020 en 2022 werden genomen. Chauffeurs konden worden geschorst wanneer systemen vermoedden dat zij fraude pleegden, bijvoorbeeld door onnodige omwegen te rijden of ritten te aanvaarden zonder deze te willen uitvoeren. Een lage beoordeling van klanten kon in bepaalde gevallen eveneens leiden tot uitsluiting van het platform.
De toezichthouder stelt dat zulke besluiten een zeer grote invloed hebben op het leven van chauffeurs, omdat een geblokkeerd account betekent dat iemand niet meer kan rijden en dus ook geen inkomsten kan verdienen. Europese privacyregels verbieden daarom dat beslissingen met zulke zware gevolgen volledig aan een geautomatiseerd systeem worden overgelaten.
Uber stelt dat het bedrijf het besluit en de hoogte van de boete betwist en in beroep gaat. Volgens de onderneming zijn de onderzochte werkwijzen inmiddels aangepast, vinden er menselijke beoordelingen plaats en kunnen chauffeurs schorsingen aanvechten. De kern van het geschil blijft echter overeind, namelijk of die menselijke controle destijds werkelijk onderdeel was van de beslissing of slechts beschikbaar kwam nadat een chauffeur al zijn werk was kwijtgeraakt.
De kwestie begon met een collectieve klacht uit Frankrijk namens meer dan 170 chauffeurs. Omdat Uber zijn Europese hoofdvestiging in Nederland heeft, werd het onderzoek daar behandeld in samenwerking met andere Europese toezichthouders. Eerdere onderzoeken rond dezelfde klachten leidden al tot een boete van 10 miljoen euro wegens gebrekkige informatievoorziening en een sanctie van 290 miljoen euro wegens onvoldoende bescherming van persoonsgegevens bij doorgifte naar de Verenigde Staten.
De nieuwe boete behoort tot de grootste die ooit onder de Europese privacywetgeving is opgelegd. Alleen de sanctie van 1,2 miljard euro tegen Meta in 2023 was hoger. Grote bedragen trekken de aandacht, maar de werkelijke betekenis zit in het beginsel dat een onderneming geen menselijke verantwoordelijkheid kan wegprogrammeren wanneer een algoritme rechtstreeks bepaalt of iemand zijn bestaanszekerheid behoudt.
Platformbedrijven zullen hierdoor steeds moeilijker kunnen volstaan met de verklaring dat een systeem objectief heeft gehandeld. Een algoritme kan patronen herkennen, risico’s signaleren en gegevens vergelijken, maar kan niet zelfstandig beoordelen of een afwijkende route werkelijk fraude was, of een lage waardering terecht is en welke persoonlijke gevolgen een fout besluit voor een chauffeur heeft.
De Surinaamse overheid moet deze ontwikkeling volgen, omdat geautomatiseerde selectie steeds vaker wordt gebruikt bij kredietbeoordeling, uitkeringen, sollicitaties, digitale betalingen en publieke dienstverlening, waardoor duidelijke regels voor menselijke tussenkomst, bezwaar en onafhankelijke controle nodig zijn voordat burgers afhankelijk worden van systemen die zij niet kunnen begrijpen of corrigeren.
De zaak tegen Uber maakt duidelijk dat technologische vernieuwing pas geloofwaardig blijft wanneer snelheid en efficiëntie worden begrensd door transparantie, menselijke beoordeling en het recht van mensen om een beslissing die hun leven raakt daadwerkelijk te betwisten.
Volg Ko’W’ Checking voor nieuws, data en meer gesprekken over samenleving, ondernemerschap, leiderschap en ontwikkeling, op de Facebookpagina, TIKTOK and Youtube kanaal. Voor alle nieuws uit Suriname en de wereld check: www.kowchecking.com
