‘AI en Recht moeten elkaar serieus nemen’

Begrijpen informatici en juristen elkaar eigenlijk wel goed genoeg om samen verantwoorde AI te bouwen? Die vraag stond centraal in de oratie van Floris Bex op 20 maart. De hoogleraar Innovatie in AI & Recht vindt dat samenwerking tussen de twee vakgebieden een noodzakelijke voorwaarde is voor verantwoorde AI in de rechtsstaat.

Floris Bex is sinds een jaar hoogleraar Innovatie in AI & Recht. Deze leerstoel is een samenwerkingsverband tussen de departementen Informatica en Rechtsgeleerdheid. Daarnaast is hij wetenschappelijk directeur van het Nationaal Politielab AI, waarin de Universiteit Utrecht samenwerkt met de nationale politie aan verantwoorde AI-toepassingen.

In die rollen ziet hij hoe AI overal opduikt, van ziekenhuizen en politie tot rechtbanken en sociale media. En overal waar AI haar intrede doet, volgt regelgeving: van impact assessments tot ethische kaders en nieuwe AI-wetgeving. Voor juristen zijn dit noodzakelijke instrumenten om grip te krijgen op AI, terwijl informatici ze vaak ervaren als belemmerend, aldus Bex. “Maar als we willen dat AI en Recht samen optrekken, moeten informatici accepteren dat het recht meer is dan vervelende regeltjes. Juristen moeten begrijpen dat AI meer is dan hallucinerende systemen die ons dommer maken. Het zijn herkenbare karikaturen, maar ze staan echte samenwerking in de weg.”

Drie praktijkvoorbeelden

Aan de hand van praktijkvoorbeelden liet Bex zien hoe samenwerking wél kan. Bijvoorbeeld door klassieke argumentatietheorie te verbinden aan moderne, generatieve AI. Daarbij haalde hij het werk van zijn promovendi aan. “Zij zetten oude en nieuwe vormen van AI niet tegenover elkaar, maar combineren ze, zodat de sterke kanten van beide naar voren komen. Zo testen we bijvoorbeeld welke fouten generatieve AI maakt als het een juridische motivering geeft, en onderzochten we hoe we juridisch relevante elementen uit teksten kunnen halen. Ook hebben we chatbots ontwikkeld die zich wél aan juridische regels houden.”

Daarnaast benadrukt hij dat informatici en juristen elkaars vakgebied serieus moeten nemen. Het recht heeft zijn eigen precisie en logica, waarin principes, wetten en jurisprudentie een centrale rol spelen. En AI is meer dan een computersysteem: het bevat altijd keuzes over data, modellen en technieken. Bex: “Informatica zonder enig juridisch begrip gaat voorbij aan de grenzen die de rechtsstaat stelt. Recht zonder technisch inzicht mist de werkelijkheid van moderne systemen. De samenwerking tussen alfa- en bètawetenschappen is dus geen overbodige luxe, maar een noodzakelijke voorwaarde voor verantwoorde AI in de rechtsstaat.”

Zijn derde boodschap: theorie alleen is niet genoeg. In samenwerkingen met onder meer de Nationale Politie en de Raad voor de Rechtspraak laat Bex zien dat AI pas echt waarde heeft als het ook werkt in de dagelijkse praktijk. “Wat het Politielab bijzonder maakt, is dat onderzoekers tegelijk bij de politie en aan de universiteit werken. Daardoor staan zij midden in het politiewerk én in de academische gemeenschap. Dus niet alleen AI vóór de praktijk, maar AI mét de praktijk.”
 

De echte test voor zowel AI als het Recht is niet of het werkt in theorie, maar in de echte wereld

Het werk van zijn promovendi laat zien hoe dat eruitziet. Zo onderzoekt een promovendus hoe AI presteert op rommelige, onvolledige politiedata, terwijl anderen werken aan manieren om uitkomsten van machine learning begrijpelijk te maken. Ook de Slimme Keuzehulp, die jaarlijks tienduizenden burgers helpt bij het doen van aangifte van oplichting, laat zien hoe die wisselwerking concreet vorm krijgt. “De echte test voor zowel AI als het Recht is niet of het werkt in theorie, maar in de echte wereld.”