Henry Prakken aangesteld als hoogleraar AI & Recht

Henry Prakken is per 15 september benoemd tot hoogleraar AI & Recht bij de Bètafaculteit van de Universiteit Utrecht. In zijn onderzoek en onderwijs richt Prakken zich op manieren waarop AI-technologieën rechters, advocaten, officieren van justitie, maar ook misdaadonderzoekers en burgers kunnen ondersteunen. Het uiteindelijke doel: een efficiënt en transparant rechtssysteem.

Ook in het recht neemt het gebruik van AI-technieken de laatste tijd toe: algoritmes die vormen van fraude proberen op te sporen en misdaad of uitspraken van rechters kunnen voorspellen. Een bekend probleem van veel van die algoritmes is dat ze black boxes zijn, aldus Prakken. “Een algoritme dat een bepaalde uitkomst voorspelt, maar geen inzicht geeft in de juridische gronden van die voorspelling, daar heeft een rechter niets aan. Ik wil weten hoe je algoritmes zodanig kunt ontwerpen dat ze zich wél houden aan de juridische eisen wat betreft uitlegbaarheid.”

In zijn onderzoek concentreert Prakken zich op technieken als machine learning, taaltechnologie en argumentatietechnologie. Deze technieken gebruikt hij bijvoorbeeld om in data waarmee het algoritme getraind wordt, te zoeken naar gevallen met een vergelijkbare uitkomst. Het algoritme kan vervolgens uitleggen dat de voorspelling is gebaseerd op het feit dat eerdere gevallen met vergelijkbare kenmerken dezelfde uitkomsten hadden. “We gebruiken daarvoor modellen uit de rechtsfilosofie die gaan over precedent-gebaseerd redeneren: hoe gaan juristen om met beslissingen in eerdere zaken?”

Vertrouwen in de rechtspraak

Volgens Prakken is dergelijk onderzoek essentieel om het vertrouwen in de rechtspraak en misdaadonderzoek te behouden. Maar ook om onrealistische ideeën over dergelijke ontwikkelingen te temperen. “Deze algoritmes zijn geen voorloper van een soort robotrechter. De uiteindelijke beslissing blijft bij de rechter en die probeert een uitspraak te nemen op deugdelijke juridische gronden en gehoorde partijen; AI kan rechters ondersteunen bij hun beslissingen, niet vervangen.”

Ik wil weten hoe je algoritmes zodanig kunt ontwerpen dat ze zich wél houden aan de juridische eisen wat betreft uitlegbaarheid

Prakken is geen onbekend gezicht bij de Universiteit Utrecht; hij is al 25 jaar docent en onderzoeker bij het departement Informatica en begeleidt promovendi die onderzoek doen op het snijvlak van recht en AI, onder meer bij het Nationaal Politielab AI. “Het mooie van dat Lab is dat we daar multidisciplinair onderzoek doen en dat is denk ik ook de kracht van onze universiteit. We zitten ingebed in het departement Informatica waar de expertise op het gebied van AI, machine learning en taaltechnologie groot is, en er zijn ook allerlei dwarsverbanden met andere faculteiten. Mijn doel is dat we - als ik over een paar jaar helaas met pensioen moet - het Utrechtse onderzoek op het gebied van AI & Recht definitief op de kaart hebben gezet.”

Pionier

Pınar Yolum, hoogleraar Trustworthy AI en voorzitter van de benoemingscommissie, is blij met de aanstelling van Prakken. “Hij heeft de afgelopen jaren zowel de theoretische als de experimentele kennis van dit vakgebied verder gebracht. Zijn kennis van de ontwikkeling van computermodellen om juridische documenten te analyseren is ontzettend uitgebreid en hij heeft dergelijke modellen succesvol geïmplementeerd in de wetshandhaving. Hij is echt een pionier op dit vakgebied.”