Als onderdeel van het Nationaal Politielab AI (NPAI) doe ik als PhD student onderzoek naar het transparant en inzichtelijk maken van data-gedreven geautomatiseerde beslissingen (machine learning). Dit nieuwe onderzoeksgebied, Explainable Artificial Intelligence (XAI), combineert inzichten en resultaten van algoritmische besluitvorming, filosofie en (sociale) psychologie.
Voor de Nationale Politie operationaliseer ik uitlegbaarheid en transparantie gedurende het ontwerp, de ontwikkeling en de toepassing van AI-systemen. Mijn open-source Python toolkit Explabox ondersteunt datawetenschappers in de dagelijkse praktijk om vertrouwen te hebben in hun AI-modellen, en vol vertrouwen AI-systemen te ontwikkelen en toe te passen op een juridisch en ethisch correcte wijze. Global Causal Analysis (GCA) helpt om een globaal beeld te krijgen van de factoren die het gedrag van een black-box AI beïnvloeden, om zo de (interactie)effecten van taakrelevante-, fairness- en robuustheidsfactoren te begrijpen.
Samen met ALGOPOL onderzoek ik hoe (X)AI op een waardevolle manier kan worden ingezet bij de Nationale Politie, met inachtneming van de verwachtingen van medewerkers en ethische vereisten.
In september 2019 won mijn master thesis Contrastive Explanation for Machine Learning de Graduate School of Natural Sciences thesis award, en was deze genomineerd voor de UU Beste Masterscriptie 2019.