José van Dijck over algoritmen bij verzekeraars
Op 12 juni gaf prof. dr. José van Dijck, universiteitshoogleraar aan de Universiteit Utrecht, in het Financieel Dagblad haar opinie over de formules die verzekering hanteren bij het berekenen van een premie.
Steeds vaker verschuilen verzekeraars, maar ook andere bedrijven, zich achter algoritmische beslissingen. "Soms willen ze nog wel uitleggen welke algemene data ze in hun 'zwarte doos' stoppen, maar kunnen ze niet verklaren waar de gepersonaliseerde premie op gebaseerd is. Consumenten hebben het nakijken: ze kunnen hoogstens het voorstel van de verzekeraar accepteren, of besluiten dat ze liever naar een betere aanbieding op zoek gaan", meent Van Dijck.
Geautomatiseerde gegevens
"Inmiddels kunnen publieke bestuursorganen, zoals gemeenten of uitkeringsinstanties zich al niet meer verschuilen achter zwarte dozen waaraan ook zij steeds meer beslissingen uitbesteden", stelt Van Dijck. "De Hoge Raad besliste in augustus vorig jaar dat gemeenten, in het kader van de wet WOZ-uitvoering, aan burgers moeten kunnen uitleggen hoe de waardebepaling van hun huis tot stand komt op basis van geautomatiseerde gegevens."
De zwarte doos begint zo langzamerhand in een zwart gat te veranderen
Transparantie
"Transparantie moet geen doel op zich zijn, maar een middel om het vertrouwen van burgers in de rechtsstaat te vergroten", concluceert Van Dijck. "In een wereld vol algoritmische beslissingen moet dat vertrouwen opnieuw verankerd worden. De zwarte doos begint zo langzamerhand in een zwart gat te veranderen: er verdwijnt een heleboel data in, consumenten ervaren de effecten, maar niemand kan uitleggen wat zich daarbinnen afspeelt. Gelukkig wil nu ook minister Dekker dit soort profilering op basis van onbekende data aan banden leggen. Algoritmische transparantie moet voorkomen dat ons vertrouwen in de rechtstaat niet samen met onze data verdwijnt in dat zwarte gat."
Institutions for Open Societies
José van Dijck is literatuurwetenschapper en tevens verbonden aan Institutions for Open Societies, een interdisciplinair onderzoeksgebied van de Universiteit Utrecht gericht op de ontwikkeling en uitbouw van gezonde open samenlevingen, waar dan ook ter wereld.