Kan een algoritme je baas zijn?

- Een bijdrage van Iris Muis, projectmanager, business developer en data ethiek coördinator van Utrecht Data School, Faculteit Geestestwetenschappen.

Hoewel de uitspraak in de zaak van maaltijdbezorgplatform Deliveroo en vakbond FNV vandaag niet de aandacht krijgt die het verdient (omdat deze werd ondergesneeuwd door de uitspraak over de avondklok) is deze wel heel belangrijk voor de toekomst van werk en onze relatie met technologie en algoritmes. Het Hof gaat er in mee dat de Deliveroo-koeriers werknemer zijn en geen zelfstandige. Via de app van Deliveroo krijgen ze namelijk onder meer instructies en bonussen, ook al komt er geen menselijk contact aan te pas.

Een algoritme als baas

Kort door de bocht was de rechtsvraag: Kan een algoritme je baas zijn? Het zit zo: de maaltijdbezorgers, of ‘riders’, die je vaak door het centrum van Utrecht ziet rondzoeven, loggen in op de app van Deliveroo, op hun eigen telefoon. Deze app gebruikt een algoritme dat deze riders aanstuurt, op basis van hun GPS-locatie, de locatie van aangesloten restaurants en de bezorglocatie van besteld eten. Het algoritme heeft een naam: ‘Frank’. Frank verdeelt de verschillende bestellingen over de ingelogde riders. De riders hebben vaak nog nooit een ‘echte’ leidinggevende vanuit Deliveroo ontmoet, dat wil zeggen, een mens. De vraag is nu: Kan een algoritme wel je baas zijn? Kun je voor een app werken?

Juridische strijd

De juridische strijd ging over de vraag of riders van Deliveroo als werknemer zijn aan te merken en als zodanig recht hebben op een arbeidsovereenkomst, of dat zij, zoals nu het geval is, als ZZP’er in dienst kunnen blijven. Als ZZP’er moeten zij zelf zorgen voor verzekeringen, mochten ze bijvoorbeeld een ongeluk krijgen met hun fiets tijdens het bezorgen. Deliveroo stelt dat de riders ZZP’er zijn omdat ze een grote mate van vrijheid hebben, bijvoorbeeld in het wel of niet accepteren van bestellingen in de app. En dat er dus geen ‘gezagsrelatie’ (een bekende term in het arbeidsrecht) bestaat tussen de riders en Frank. De FNV betwistte dit: Frank geeft duidelijke instructies, stelt eisen en deelt bonussen uit op basis van de prestaties van de riders. Op die manier bestaat er dus wel een gezagsrelatie en zijn alle riders werknemer, en in dienst van, Frank (c.q. Deliveroo). Hier ging het Hof in mee: de riders zijn inderdaad in dienst van Deliveroo.

Rechters verdiepen zich in de werking van algoritmes

Ik vind het fantastisch om te zien dat de rechters zich echt hebben verdiept in de werking van het algoritme Frank. Dat was niet makkelijk, omdat Deliveroo, net als veel andere organisaties die gebruik maken van algoritmes en AI, liever niets prijs willen geven over de werking ervan. Een kleine greep uit de uitspraak laat zien dat de rechters niet alle informatie over Frank hebben ontvangen:

“Of Deliveroo via ‘Frank’ de bestelling aanbiedt aan de bezorger uitsluitend op basis van afstand (‘de bezorger met fiets die zich het dichtst bij het restaurant bevindt krijgt de bestelling aangeboden’) of dat ook andere criteria worden gehanteerd (zoals de snelheid waarmee een bepaalde bezorger doorgaans zijn bestellingen afhandelt) is niet duidelijk geworden. Het hof stelt vast dat niet is komen vast te staan dat Deliveroo te dien aanzien invloed kan uitoefenen, maar het is – gelet op het geavanceerde systeem dat ‘Frank’ blijkens de gedingstukken kennelijk is – ook niet uitgesloten.”

Daarom moesten de rechters zoveel mogelijk afgaan op ervaringen van riders over de werking van Frank en op wat van Frank te zien is in de app van Deliveroo. Op die manier hebben ze Frank zo goed mogelijk weten uit te pluizen. Dat is bijzonder: vaak worden mensen afgeschrikt als een vraagstuk vereist dat diep in de techniek gedoken moet worden. Het wordt dan afgeschoven als een ‘IT-vraagstuk’ waar de ‘data-experts’ zich maar over moeten buigen. Zeker rechters en andere juristen (maar ook raadsleden, bestuurders, etc) hebben vaak geen achtergrond in technologie of digitalisering. Dat zij zich in deze zaak zo serieus hebben vastgebeten vind ik geweldig.

Weg van de ‘digi-beto-cratie'

Dit is een goede stap richting meer bewustzijn over algoritmes en technologie in het algemeen, en wat voor impact dat heeft op ons leven. Want dit zijn niet alleen zaken die 'IT-nerds' aangaan, maar het gaat ons allemaal aan. Laten we geen 'digi-beto-cratie' blijven, in de woorden van Lubach.

Iris Muis

In haar werk onderzoekt Iris de impact van technologie op onze maatschappij. Daarbij ontwikkelt ze vaak concrete instrumenten die mensen helpen om op een verantwoorde manier met digitalisering om te gaan, zoals bijvoorbeeld De Ethische Data Assistent (DEDA).