Logica en machine learning bieden samen het beste van twee werelden

Oratie Human-centered Artificial Intelligence

Op maandag 30 mei zal Mehdi Dastani, hoogleraar Intelligente Systemen aan de Universiteit Utrecht, zijn oratie uitspreken. In zijn onderzoek werkt hij aan een brede AI-visie waarin centraal staat hoe de mens de controle kan blijven uitoefenen over steeds slimmere systemen. “De keuzes van AI-systemen zouden voor de mens begrijpelijk, uitlegbaar en traceerbaar moeten zijn, willen we de controle over deze systemen kunnen houden en ze vertrouwen. Dan staan AI-systemen in dienst van mensen in plaats van andersom.”

Artificial Intelligence is betrokken bij veel maatschappelijke en economische keuzes, ook die waar potentieel risico’s aan kleven: in de medische wereld stellen AI-systemen diagnoses op basis van digitale beeldherkenning en ze spelen een grote rol in de energietransitie, mobiliteit en financiële markten.

Tot op heden zijn bij dat soort risicovolle processen altijd nog mensen betrokken om de keuzes van de systemen in de gaten te houden. “Menselijke specialisten zijn nu nog nodig om op uitzonderingen te letten om zo fouten en risico’s te vermijden”, zegt AI-onderzoeker Mehdi Dastani. “Bovendien zijn het altijd mensen die verantwoording moeten kunnen afleggen als het misgaat doordat een AI-systeem een fout maakt.”

Zolang onduidelijk is hoe op black-box gebaseerde AI-systemen werken, kan de maatschappij eigenlijk geen rotsvast vertrouwen in ze hebben.

Black box algoritmen

Om het mogelijk te maken dat in de toekomst geavanceerde computersystemen steeds vaker risicovolle keuzes gaan maken, zonder al te veel tussenkomst van menselijke specialisten, moeten we er volgens Dastani op kunnen vertrouwen dat de mens zelf de controle kan houden over dat type systemen.

“Recente AI-ontwikkelingen – zowel de successen als de mislukkingen – hebben velen doen hopen op of vrezen voor de toekomstige impact van AI-technologie. Dit is deels te wijten aan het feit dat AI-technologie steeds meer gebaseerd wordt op het leren vanuit data door gebruik te maken van black-box algoritmen. Ze wérken wel – soms zelfs heel effectief - en dat is natuurlijk positief. Maar er kleven ook risico’s aan het gebruik ervan. Want welke data-eigenschappen heeft het systeem gebruikt om tot een beslissing te komen? Als de ene huizenkoper bijvoorbeeld een lagere hypotheek kan krijgen dan de andere, wil je de reden daarvan kunnen vaststellen. Maar dat lukt niet altijd met op black-box gebaseerde AI-systemen, en zolang dat onduidelijk is, kan de maatschappij eigenlijk geen rotsvast vertrouwen hebben in deze systemen.”

Human-centered Artificial Intelligence

Het doel van Dastani’s onderzoek is om het ontwerp van AI-systemen af te stemmen op de menselijke cognitie en capaciteiten. “In zekere zin zouden AI-systemen de wereld als mens moeten waarnemen, leren, beredeneren, en daarnaar handelen, bijvoorbeeld door ervoor te zorgen dat de kenmerken en regels die ze gebruiken om beelden te classificeren overeenkomen met die van mensen, en doordat AI-systemen kunnen redeneren over wat ze leren. Als een systeem leert dat foto’s 1 en 2 van dezelfde persoon zijn, en nummers 2 en 3 ook, maar 1 en 3 zijn niet van dezelfde persoon, dan is er iets misgegaan bij het leren classificeren van de foto’s. Door het combineren van goede ‘old-fashioned’ AI met moderne datagedreven AI-technieken kunnen krachtige human-centered AI-systemen gebouwd worden die we kunnen begrijpen en uitleggen, doordat we de onderliggende redenering en route van die beslissingen kunnen traceren en analyseren. Deze ingrediënten zijn nodig om het vertrouwen in AI-systemen te vergroten.”

De brede visie van de Universiteit Utrecht op AI sluit nauw aan bij het Europese beleid om human-centered Artificial Intelligence in Europa te stimuleren.

Van weinig naar big data

Prof. Mehdi Dastani is sinds 2001 aan de Universiteit Utrecht verbonden. “De UU was de eerste universiteit in Nederland die de opleiding Kunstmatige Intelligentie aanbood. Destijds was het vakgebied kunstmatige intelligentie, en dus ook onze opleiding, gedreven door op logica gebaseerde methoden en op inzichten uit verschillende wetenschappelijke disciplines, die overigens op basis van weinig data tot stand waren gekomen. Inmiddels is kunstmatige intelligentie enorm ontwikkeld, met name door ontwikkelingen in machine learning, de beschikbaarheid van big data en grote rekenkracht van computers. Onze bachelor- en masteropleidingen in kunstmatige intelligentie zijn met deze ontwikkelingen meegegaan en behoren nu tot de beste van Nederland.”

Samen met prof. Jan Broersen zette Dastani de afgelopen jaren het focusgebied Human-centered Artificial Intelligence op. Dastani: “Met de Utrechtse focusgebieden Governing the Digital Society en Applied Data Science, die zich bezighouden met de sociale, ethische en juridische aspecten van digitalisering en data, hebben we ervoor gezorgd dat AI-onderzoek in Utrecht human-centered is geworden. Onder die paraplu stimuleren we UU-breed AI-onderzoek en werken we samen met nationale en internationale partners. Deze brede visie op AI sluit nauw aan bij het Europese beleid om human-centered Artificial Intelligence in Europa te stimuleren.”

Oratie prof. Mehdi Dastani

De oratie van prof. Mehdi Dastani op maandag 30 mei om 16.15 uur is getiteld 'Controllable Artificial Intelligence - a human-centered approach'. U bent van harte welkom om de plechtigheid in de aula van het Academiegebouw bij te wonen. Of volg de lezing online via deze link. Zie voor praktische informatie ook het agenda-item op onze website.