De Utrecht Data School ontwikkelt een ‘functioneringsgesprek’ voor kunstmatige intelligentie

Veel bedrijven en organisaties gebruiken al kunstmatige intelligentie, Artificial Intelligence (AI), maar op dit moment wordt er nog weinig toezicht op gehouden. Daar gaat de Utrecht Data School, samen met de Nederlandse Voedsel- en Warenautoriteit en Rijksinspectie Digitale Infrastructuur, verandering in brengen. Projectleider Iris Muis sprak met het online platform Toezine over het nieuwe toezichtinstrument ‘Functioneringsgesprek voor AI’.

Functioneringsgesprek

De Utrecht Data School wil met haar partners een soort functioneringsgesprek kunnen voeren met AI, vertelt Iris Muis. “Daarbij moet het gaan over de code, de keuzes van marktpartijen, of ze nog achter deze keuzes staan en hoe ze AI borgen in de organisatie – de governance dus.”

Idealiter zullen organisaties het functioneringsprogramma zelf inzetten. “Dat ze een rapport aanleveren bij hun toezichthouder waarin ze ingaan op incidenten door algoritmen, hoe ze daarmee zijn omgegaan, wat hun AI-beleid is, of dat voldoet aan de criteria en of mensen getraind zijn en hoe precies.”

Ethiek

Toezicht houden op AI is belangrijk omdat de programma’s weliswaar ‘zelf’ werken, maar menselijke fouten alsnog op de loer liggen. “AI kan technisch perfect zijn, maar toch verkeerd ingezet worden. Een extreem voorbeeld is de Toeslagenaffaire”, vertelt Muis. “Als organisaties de fout ingaan, komt het doordat niemand het overzicht heeft.”

“Daarom is het zo belangrijk dat marktpartijen hun keuzes kunnen onderbouwen en dat de verantwoordelijkheid voor AI in een organisatie nooit bij één of een handjevol personen ligt. AI hoort van de hele organisatie te zijn.” Muis hoopt het prototype dat UDS nu bouwt nog dit jaar met marktpartijen te testen.