HUMAN-AI

Zie ook: https://human-ai.nl/

Onder wetenschappers en sectorale en overheidsinstanties bestaat een sterke consensus dat kunstmatige intelligentie (KI) een wijdverbreid en diepgaand effect heeft op de samenleving. Een specifiek onderdeel van KI dat de manier waarop mensen hun leven inrichten en ervaren sterk zal veranderen, is de ontwikkeling van kunstmatige autonome systemen. Deze 'slimme' systemen kunnen leren onze innerlijke staat van 'zijn' (gedachten, gevoelens en doelen) te begrijpen en te voorspellen, hierop te reageren en in realtime te adviseren wat we kunnen doen om onze gezondheid en ons welzijn te bevorderen, met name binnen het opkomende technologische landschap van het internet der dingen. Op die manier worden mensen steeds vaker geconfronteerd met een verminderd gevoel van autonomie, omdat ze bij alles wat ze doen in de gaten worden gehouden en geleid worden door complexe en autonome technologieën die ze niet begrijpen of waar ze geen vat op hebben.

De Universiteit Utrecht, de Technische Universiteit Eindhoven en het Universitair Medisch Centrum Utrecht hebben het alliantieprogramma 'HUMAN autonomy perspective of Artificial Intelligence' (HUMAN-AI) opgezet, met als doel technologische ontwikkelingen in te zetten om de menselijke autonomie te vergroten in plaats van deze te bedreigen, en om tegelijkertijd de menselijke prestaties te verbeteren en interactie met fysieke en sociale omgevingen mogelijk te maken. Het project staat onder leiding van de hoogleraren Henk Aarts (UU) en Panos Markopoulos (TU/e).

Het spanningsveld tussen de autonomie van mens en machine levert grote wetenschappelijke, technologische en ethische uitdagingen op voor het ontwerpen van KI-systemen, en als dit niet wordt onderkend, brengt dit de maatschappelijke orde en het democratische bestel in gevaar.

Een menselijk perspectief op KI

Onderzoekers van het alliantieprogramma willen mensen helpen hun ambities te verwezenlijken door modellen en methoden te ontwikkelen waarmee kan worden voorspeld en geëvalueerd hoe mensen reageren op veranderende interactie met kunstmatige autonome systemen en aan de hand waarvan het ontwerp van KI transparant en begrijpelijk kan worden gemaakt en de autonomie van de mens kan worden beschermd. Het programma maakt het mogelijk specialistische expertise op het gebied van technologie en technologisch ontwerp te combineren met hoogwaardige deskundigheid op verschillende andere gebieden, zoals sociale, onderwijs- en computerwetenschappen, gezondheidszorg en ethiek. Bij het programma zijn internationaal erkende onderzoekers betrokken die binnen hun vakgebied bekendheid genieten vanwege hun werk op het vlak van menselijk gedrag en KI, zoals Jan Broersen, Mehdi Dastani, Berry Eggen, Mykola Pecheznkiy, Elise van de Putte, Stefan van der Stigchel en Wijnand IJsselsteijn.

Doordat we bestaande expertise op het gebied van technologisch ontwerp, cognitieve en sociale modellering en evaluatie van kunstmatige autonome systemen combineren, kan ons programma een belangrijk platform worden als het gaat om de toekomstige rol van KI en de digitalisering van de samenleving.

Centrum voor onderzoek, onderwijs en innovatie

Een belangrijk doel van het alliantieprogramma is de ontwikkeling van een experimenteel paradigma waarin wordt ingegaan op het spanningsveld tussen bevordering en verzwakking van de menselijke autonomie door KI-technologie. Dit paradigma, dat een gedeeld referentiekader en een uitdaging voor de verschillende wetenschappelijke en ontwerpperspectieven vormt, is bedoeld om kleinschaligere en onafhankelijke internationale onderzoeksactiviteiten aan te trekken. Binnen het programma zullen ook kwesties in verband met de maatschappelijke gevolgen aan bod komen door te laten zien hoe het paradigma kan helpen bij het ontwerpen van kunstmatige autonome systemen in verschillende domeinen, zoals onderwijs, gezondheidszorg en duurzaamheid. De overkoepelende ambitie is om een kenniscentrum op te richten voor geavanceerde expertise met betrekking tot onderzoek, opleiding, toepassing en innovatie op het gebied van menselijke KI.

Strategische thema's en onderzoeksgebieden

De deelnemende onderzoekers zijn betrokken bij interdisciplinaire programma's, zoals de strategische thema's 'Instituties voor open samenlevingen' en 'Dynamics of Youth', en het focusgebied 'Human-centered Artificial Intelligence' van de Universiteit Utrecht, en de onderzoeksgebieden 'Artificial Intelligence' en 'Humans and Technology' van de TU//e.