Utrecht Data School als ethische gids voor de digitale overheid

Iris Muis is net terug van een trip naar het Europees Parlement waar ze samen met Mirko Schäfer vanuit Utrecht Data School (UDS) het Impact Assessment Mensenrechten en Algoritmes (IAMA) presenteerde. Muis: ‘Organisaties kopen steeds vaker algoritmes in om het werk efficiënter te maken en minder mensen te hoeven aannemen. Maar als je technologie inzet, komt daar ook een verantwoordelijkheid bij.’

Na een bachelor rechten, volgde Iris Muis de master Conflict Studies and Human Rights. Daar raakte ze gefascineerd door de digitalisering die haar opmars maakt in de wereld. Want is de digitalisering niet net zo’n belangrijke globale gebeurtenis als de andere ontwikkelingen die binnen haar master besproken werden? En speelt macht daarin niet net zo’n grote rol? Muis werkt inmiddels alweer zeven jaar voor UDS, waar ze sinds september van dit jaar teamleider is. Het Centre for Digital Humanities (CDH) sprak met haar over het IAMA en de ontwikkelingen binnen UDS.

Wat houdt het IAMA precies in?

‘Algoritmes en AI worden steeds meer gebruikt binnen de overheid en er is een noodzaak om dat beter te monitoren. Kijk bijvoorbeeld naar wat er gebeurd is tijdens het toeslagenschandaal. In 2020 kwam er dan ook een algemene uitvraag vanuit het Ministerie van Binnenlandse Zaken om een impact assessment voor AI te ontwikkelen. Met het vierkoppige team van Mirko Schäfer (co-founder UDS), Janneke Gerards (hoogleraar Fundamentele Rechten), Arthur Vankan (digital technology consultant) en ik hebben we toen een voorstel geschreven. Ons voorstel is uitgekozen en daarna hebben we het Impact Assessment Mensenrechten en Algoritmes, kortweg IAMA, ontwikkeld. Het ontwikkelen ging vrij snel omdat we al ervaring hadden met zo’n instrument: toen het veld van data ethiek net begon op te komen, ontwikkelden we binnen UDS in 2015 al De Ethische Data Assistent (DEDA). Toen het prototype van het IAMA klaar was, hebben we vier maanden de tijd genomen om het heel intensief in de praktijk te testen met een aantal overheidspartijen.’

Hoe staat het nu met het IAMA?

‘Er is een motie ingediend in de Tweede Kamer om het IAMA verplicht te maken voor alle overheidsalgoritmes, en die is aangenomen. Dus het heeft nu al ongelooflijk veel impact gemaakt. Dat laat zien hoe groot de noodzaak hiervoor is.’

Waar komt de Europese interesse in het IAMA vandaan?

‘Er komt volgend jaar een AI Act aan voor Europese regelgeving rondom kunstmatige intelligentie. Hierin wordt waarschijnlijk ook een Human Rights Impact Assessment opgenomen. The Greens organiseerden een event om input op te halen voor de onderhandelingen over deze AI Act. In panels discussieerden allerlei mensen vanuit NGO’s, het bedrijfsleven en de academische wereld over mensenrechten en AI. GroenLinks Europarlementariër Kim van Sparrentak had ons uitgenodigd om te vertellen hoe het IAMA in de Nederlandse context wordt ingezet. Het succes van het IAMA in Nederland geeft The Greens weer meer onderhandelingsmacht. Het zou voor ons natuurlijk fantastisch zijn als ons Impact Assessment in de AI Act wordt gebruikt.’

Uit welke noodzaak is UDS in 2013 opgericht?

‘Binnen het departement Media & Cultuurwetenschappen (MCW) kwam de vraag vanuit studenten voor meer digital humanities. De studies binnen MCW waren in die tijd wel gericht op digitale cultuur, maar onderzochten niet wat er nou echt op de online media gebeurde. Vanuit dat gat is Mirko Schäfer toen met student Thomas Boeschoten een practicum Nieuwe Media gaan geven. Maar om echt onderzoek te doen was er meer lestijd nodig en MCW kon dat niet bekostigen. Dus toen ontstond de noodzaak om er externe partners bij te zoeken die financieel bijdroegen. Dat bleek een succesformule. Want die partners leverden weer maatschappelijk relevante onderzoeksvragen en -data waardoor we eigenlijk veel relevanter en impactvoller onderzoek konden doen. En zo is één vak uitgegroeid tot het onderwijs- en onderzoeksplatform dat UDS nu is met een team van 10 tot 15 mensen.’

Jullie zijn wat dat betreft dus echt een voorloper in het samenwerken met maatschappelijke partners.

‘Klopt. Nu wordt daar door de Universiteit Utrecht veel meer op ingezet en staat het in het Strategisch Plan. Maar dat is een nieuwe beweging.’

Hoe is het om met zoveel maatschappelijke partners samen te werken?

‘We doen het al zo lang dat het voor ons heel normaal is. Iets dat we wel geleerd hebben, is dat we eigenlijk altijd twee stappen moeten maken. Er moet iets uit het onderzoek met de partner komen - een rapport, workshop of handreiking - dat voor die partner direct bruikbaar is. Maar vervolgens, na de samenwerking, moeten wij dat vertalen naar academische output. Wij moeten dus altijd meer werk doen en dat is soms wel echt een uitdaging omdat die partner alleen het eigen onderzoeksproject financiert.’

Hoe heeft UDS zich ontwikkeld de afgelopen 9 jaar?

‘In het begin deden we alleen dataonderzoek. In de afgelopen jaren is daar de focus op data ethiek bijgekomen. We stuitten namelijk tijdens ons onderzoek met de samenwerkingspartners al vrij snel op grenzen, of waarvan wij dachten dat het grenzen moesten zijn, en vanuit daar ontstond de noodzaak aan een soort kader.’

Sinds vorig jaar is UDS officieel een onderdeel van het Centre for Digital Humanities geworden. Hoe kunnen die twee elkaar verrijken?

‘We zijn heel blij met deze verhuizing omdat we qua inhoud en qua competenties van de medewerkers heel goed op elkaar aansluiten. Waar wij het CDH in kunnen versterken is de valorisatie, de impact die we bereiken in de maatschappij in samenwerking met maatschappelijke partners. Wat het CDH ons kan brengen is een solide basis van waaruit wij door kunnen groeien en waarin we onderling kennis en kunde uit kunnen wisselen. Wij sturen onze medewerkers vaak naar jullie trainingen en onze medewerkers verzorgen ook trainingen bij jullie. Door die inhoudelijke overlap kunnen we heel goed samenwerken.’

Meer lezen? Hier vind je het IAMA.