De Ethische Data Assistent verhoogt ethisch bewustzijn

Data is veel meer dan alleen maar cijfers en gegevens. De Ethische Data Assistent (DEDA) geeft toezichthouders van dataprojecten binnen drie uur inzicht in de ethische keuzes die zijn gemaakt bij een project. In ToeZine vertellen Universitair hoofddocent en projectleider van de Utrecht Data School (UDS) Mirko Schaefer en leidinggevende bij het team Data-ethiek bij UDS Iris Muis over deze impact-assessment-tool voor dataprojecten.

Ethisch bewustzijn bij dataprojecten

DEDA is bedoeld als tool om het ethisch bewustzijn van mensen die met dataprojecten bezig zijn te verhogen en hen te helpen bij het maken van ethische keuzes. Volgens Schaefer is de tool een methode om teams die aan dataprojecten werken te laten praten over alle mogelijke ethische aspecten die bij hun projecten komen kijken. “Het laat zien vanuit welke waarden je een dataproject opzet en welke acties nodig zijn om die waarden terug te laten komen in het dataproject.”

Data-ethiek

Bij de UDS wordt data gezien als meer dan alleen cijfers en gegevens: data is een sociaal-cultureel artefact, iets dat door mensen is gemaakt. “Je kunt technologie niet als neutraal beschouwen,” stelt Schaefer. “Bij de ontwikkeling van een algoritme worden immers allerlei keuzes gemaakt die te maken hebben met de sociaal-culturele context.” DEDA laat zien wanneer er onethische keuzes worden gemaakt bij het gebruik van bepaalde algoritmes.

Van abstract naar concreet

“Veel mensen vinden ethiek maar complex en abstract,” vertelt Muis. Met DEDA proberen zij het juist inzichtelijk en begrijpelijk te maken. “We laten mensen die aan dataprojecten werken inzien dat zij in dit werk continu morele keuzes maken vaak zonder dat ze dat zelf door hebben.”