“Verklaarbare kunstmatige intelligentie betekent dat de redenering achter een beslissing volledig te volgen moet zijn voor de menselijke gebruikers ervan.”
Onderzoeksfocus: Artificial Intelligence, toepassing van AI-technieken bij maatschappelijke vraagstukken, data science
Floris Bex is computerwetenschapper aan de Universiteit Utrecht. Hij bestudeert hoe mensen redeneren, hoe deze redenering kan worden gevat in formele modellen en hoe deze kan worden ondersteund en verbeterd met behulp van Artificial Intelligence (AI) technologieën. Hij is betrokken bij argumentatietheorie in AI en AI & Recht. Ook is hij als hoogleraar actief bij het Tilburg Institute for Law, Technology, and Society (TILT) van Tilburg University.
Nationaal Politielab AI
Floris is de wetenschappelijk directeur van het Nationaal Politielab Artificial Intelligence (NPAI), een samenwerkingsinitiatief van de Nederlandse politie met verschillende universiteiten. Het NPAI streeft ernaar om state-of-the-art AI technieken te ontwikkelen om de veiligheid van Nederland op een sociaal, juridisch en ethisch verantwoorde manier te verbeteren. NPAI is aangesloten bij het landelijk ICAI-netwerk.
Het onderzoek van het Politielab locatie Utrecht focust zich op redeneren met (juridische) argumenten, uitlegbare AI en het integreren van symbolische en subsymbolische technieken binnen de AI. Samen met het ALGOPOL-project kijkt het ook naar hoe AI op een verantwoorde manier bij de politie kan worden ingezet.
Slimme Keuzehulp Aangiften
Floris heeft met het NPAI een uitlegbaar AI-systeem ontworpen om aangiften van misdrijven efficiënter te beoordelen. "Slechts een klein percentage burgerklachten wordt door de wet als strafbaar feit in behandeling genomen. Als een geautomatiseerd systeem niet uitlegt waarom een klacht is afgewezen, kan dit het vertrouwen ondermijnen. Daarom hebben we een tool voor het melden van misdrijven ontworpen met een chatbot die redeneert met juridische argumenten, zodat burgers een begrijpelijke en juridisch zinnige uitleg krijgen waarom hun aangifte niet in behandeling wordt genomen."
Interessegebieden:
- Maatschappelijk, juridisch en ethisch verantwoord ontwikkelen van AI-technieken
- Text & data analytics
- Computational argumentation
- Multi-agent systemen
- State-of-the-art AI om de veiligheid in Nederland te verbeteren