Ons doel is om systemen te ontwikkel die KI systemen kunnen monitoring, zodat er gecheckt wordt of het KI systeem zich houd aan voorgelegde beperkingen zoals normen of protocollen. Deze beperking zijn het resultaat van de omstandigheden waarin het KI systeem opereert en kunnen bijvoorbeeld het resultaat zijn van gelimiteerde middelen, wetten en regels en ethische of sociele overwegingen. Het monitor systeem moet deze voorgelegde beperkingen modelleren op een voor mensen intuitive en transparante manier, zodat de betrokken deze kunnen blijven bijwerken en het mogelijk is om uit te leggen aan welke beperkingen het KI systeem zich houdt en welke niet. Dit zorgt voor communicatie en samenwerking tussen de mensen en KI systemen.

• prof. dr. M.M. (Mehdi) Dastani
• dr. S. (Silja) Renooij

• dr.ir. R.I.J. (Roel) Dobbe (TU Delft)