‘We werden niet gezien als volwaardige onderzoekers, maar als programmeurs’
Twintig jaar AI-onderzoek aan de Bètafaculteit
Als jonge onderzoeker bestudeerde hij in Utrecht kunstmatige intelligentie, toen dat nog weinig meer was dan een abstracte wetenschap. Nu is hij hoogleraar en zit AI in de haarvaten van de samenleving én van de universiteit. Twintig jaar AI-onderzoek bij de faculteit Bètawetenschappen, door de ogen van Mehdi Dastani.
Toen Mehdi Dastani in 2001 in Utrecht begon, had de Universiteit Utrecht een primeur: ze was de eerste Nederlandse universiteit die een bachelorprogramma Cognitieve kunstmatige intelligentie opzette. Niet dat Dastani hier als kersverse postdoc uit Amsterdam les zou gaan geven: de opleiding zat bij Geesteswetenschappen, “waar mensen zaten die geïnteresseerd waren in de filosofische vraagstukken rond kunstmatige intelligentie” en Dastani werd onderzoeker bij de Faculteit Bètawetenschappen.
Ook Dastani had een achtergrond in de filosofie, wat hij in Amsterdam studeerde naast een opleiding Informatica. “Bij informatica deed ik de afstudeerrichting kunstmatige intelligentie, en daar kwam ik al snel in aanraking met Grote Vragen als: wat is intelligentie eigenlijk? Kunnen computers echt denken en een bewustzijn hebben? Ik wilde niet alleen de technische kant van kunstmatige intelligentie begrijpen, maar ook de onderliggende concepten en theoretische kaders doorgronden.”
Onontgonnen gebied
In Amsterdam verdiepte hij zich begin jaren negentig in neurale netwerken, als een van de enigen. “Ik was echt een buitenbeentje, niemand geloofde erin. Er was geen data, geen sterke computer om mee te werken, je had verbindingen van hooguit tientallen neuronen. Het was eigenlijk niet te doen.” Daarom bewoog Dastani zich richting de logische methoden. In Utrecht werkte hij onder leiding van John-Jules Meyer, een pionier in het vakgebied van AI in Nederland, aan multi-agent systemen, een tot dan toe vrij onontgonnen gebied bij Informatica.
Bij Meyers groep, Intelligent Systems, ontwikkelde Dastani computersystemen en software die onderling communiceren en samenwerken om bepaalde doelen te bereiken. “Denk bijvoorbeeld aan het spoor: een enkele trein kan door één systeem bestuurd worden, maar om de rails te delen en bijvoorbeeld om te gaan met vertragingen, moeten de systemen met elkaar communiceren en afstemmen wat ze moeten doen. Hetzelfde geldt voor zelfrijdende auto’s.”
Dastani: “John-Jules Meyer was iemand die vanuit de logica geïnteresseerd was in AI: hoe kun je vanuit logische modellen een intelligent systeem bouwen? Informatica heeft een sterke basis in logica, want een computer is feitelijk een logische machine: elke berekening is uiteindelijk terug te voeren op een reeks logische operaties, met nullen en enen. Dus het was helemaal niet zo’n gek idee dat je met rijkere logica complexere programma’s kon bouwen. Wij dachten: kunnen we een manier vinden waar je alleen maar hoeft te zeggen, je hebt deze kennis en deze doelen, zorg zelf dat je die doelen bereikt?”
Daar zat wel een grens aan: logische modellen kunnen niet eindeloos worden uitgebreid met nieuwe regels die weer uitzonderingen maken op de andere regels. De groep experimenteerde daarom met specifieke machine learning technieken, zoals reinforcement learning, die in die tijd nog niet wijdverbreid was. Hierbij baseert het computersysteem zich niet op logica en formele regels, maar leert het van ervaring.
Kunstmatige intelligentie als een lerend systeem was twintig jaar geleden onuitvoerbaar; er waren te weinig data en te weinig rekenkracht
Het vakgebied van multi-agent systemen kreeg steeds meer vaste voet aan de grond; er kwamen conferenties, congressen, nieuwe wetenschappelijke tijdschriften, de aandacht groeide. Dastani: “Maar in die beginjaren was het vooral een abstract idee. Kunstmatige intelligentie als een redenerend en lerend systeem was onuitvoerbaar omdat er te weinig data en te weinig rekenkracht waren. We konden dus niet echt laten zien wat er mogelijk was. In die tijd werden we niet gezien als een volwaardig wetenschappelijke discipline die ook fundamenteel onderzoek deed. De universiteit zag ons vooral als dienstverleners die andere disciplines konden helpen met programmeren.”
De situatie veranderde rond 2010, toen er steeds sterkere rekenprogramma’s kwamen, meer data beschikbaar was en meer theoretische kennis over neurale netwerken. “Door de digitalisering was er enorm veel data vrijgekomen; bij alle wetenschappen werd er nu gewerkt met grote datasets. Er was AI nodig om die data te analyseren en te gebruiken. In plaats van dat we zelf alles moesten uitpuzzelen in ons hoofd, konden we de systemen gewoon met de data trainen om zelf patronen en structuren aan te leren.” Kunstmatige intelligentie raakte verweven met alle disciplines van de universiteit.
Dat Dastani onder collega’s bekend stond als alleseter op het gebied van AI, kwam daarbij goed van pas. “Ik heb me door de jaren heen verdiept in psychologie, sociologie, politicologie en economie. Ik kijk naar de wereld en ik wil begrijpen wat er gebeurt. En dan zie je dat AI raakt aan al die vakgebieden. Als je bijvoorbeeld kijkt naar economische theorieën, dan kom je uit bij social choice theory en game theory. Dit zijn wiskundige modellen die verklaren hoe keuzes gemaakt worden. Politieke en sociale theorieën leiden ook naar concepten als fairness en bias, wat ook weer belangrijke thema’s zijn in AI.”
Deze nieuwsgierigheid naar de wereld om hem heen probeert hij ook aan te moedigen binnen zijn groep. “Een wetenschapper moet speels zijn. Je kan jezelf niet binden aan een bepaalde richting of ideologie, want dat beperkt je, terwijl je juist overal van moet proeven. Ik vind het belangrijk dat mijn onderzoekers zich blijven afvragen: hoe kan ik mijn ervaring gebruiken voor een nieuwe ontwikkeling? En dan hoop ik dat ze hun creatieve gedachtes serieus nemen. Zo gebruik ik mijn bagage ook.”
Mooie dingen, grote gevaren
Door zijn achtergrond heeft Dastani altijd een brede blik op AI gehouden. Als middelbare scholier verliet hij in de jaren tachtig halsoverkop zijn thuisland Iran, toen daar een oorlog woedde met buurland Irak. Uiteindelijk wist hij Europa te bereiken. “Ik heb dingen meegemaakt die mijn kijk op de wereld hebben gevormd. Het maakt me alert op wat er nu in de wereld gebeurt. Digitalisering en de komst van AI is een grote maatschappelijke ontwikkeling; denk aan de invloed van big tech, de verslavende werking van social media, de verspreiding van desinformatie. AI kan mooie dingen brengen, maar we kunnen constateren dat deze ook grote gevaren met zich meebrengt.”
Dastani ziet daar een belangrijke rol weggelegd voor de universiteit. “We hebben zo’n brede expertise, niet alleen bij bèta maar ook bij de andere faculteiten. Daar moeten we gebruik van maken als we toonaangevend willen blijven op het gebied van AI-onderzoek. Ik pleit er actief voor om alle kennis binnen de universiteit op het gebied van AI te bundelen, als krachtig en samenhangend antwoord op de uitdagingen van deze tijd.”
Ik heb nergens spijt van. Maar soms droom ik erover wat er had kunnen gebeuren als ik neurale netwerken serieus had genomen.
Volgens Dastani gebeurt dat nu onvoldoende. Sterker nog, onze kennis over AI dreigt zelfs te fragmenteren over verschillende faculteiten en departementen, constateert hij. “Ik maak me al een tijd hard voor een plek die alle AI-onderzoekers binnen de universiteit verbindt en ondersteunt.” De realisatie van zo’n expertisecentrum is niet eenvoudig, merkt Dastani. “Ik weet wanneer je diplomatiek moet zijn en wanneer het belangrijk is om ieders belangen en behoeften af te wegen. Maar soms moet je ergens voor staan en anderen overtuigen om mee te gaan, omdat je anders je relevantie verliest.”
Sinds 2018 is Dastani hoogleraar bij Intelligent Systems en in 2022 volgde hij John-Jules Meyer op als voorzitter van de groep. Zijn collega’s roemen hem om zijn gedrevenheid, zijn lef en zijn behoefte om alles tot in detail te begrijpen. Op het gebied van multi-agent systemen behoort hij tot de wereldtop. “Ik heb leuke kennis opgedaan de afgelopen jaren en ik heb nergens spijt van. Maar soms denk ik wel eens terug aan mijn afstudeerscriptie over neurale netwerken. Als ik het toen serieus genomen had, terwijl niemand anders dat deed, wie weet wat er dan had kunnen gebeuren. Daar droom ik soms wel eens over.”
Vijf weetjes over Mehdi Dastani
- Mehdi Dastani werkt al jarenlang samen met Jan Broersen van Geesteswetenschappen. Samen geven ze leiding aan het focusgebied Human-Centered AI.
- Mehdi Dastani is EurAI Fellow, een prestigieuze titel die wordt toegekend aan individuen die belangrijke bijdragen hebben geleverd aan kunstmatige intelligentie in Europa
- De meeste universiteiten hebben slechts één onderzoeker op het gebied van normatieve multi-agent systemen. Dankzij Mehdi Dastani werken er in Utrecht een stuk of vijf die behoren tot de wereldtop.
- Mehdi Dastani is altijd in voor een potje tafeltennis
- Mehdi Dastani kan heerlijk koken en hij staat het liefst uren in de keuken
De leerstoelgroep van Mehdi Dastani, Intelligent Systems, is niet de enige plek bij de Faculteit Bètawetenschappen met veel kennis over AI en Data Science. Bij de volgende onderdelen werken ze ook voornamelijk met of aan kunstmatige intelligentie:
De faculteit Bètawetenschappen bestaat 20 jaar!
Dit artikel is gemaakt in het kader van het twintigjarig bestaan van de faculteit Bètawetenschappen van de Universiteit Utrecht. Het is onderdeel van een serie van (beeld)verhalen waarmee we aandacht besteden aan dit jubileum.