De wisselwerking tussen AI en onze (parlementaire) democratie

De belangstelling voor wat er allemaal kan met kunstmatige intelligentie groeit. Ook bij de overheid. Steeds vaker worden AI-toepassingen ingezet om processen te stroomlijnen en burgers beter te bedienen. Wat betekent dit voor de toekomst van onze parlementaire democratie? In zijn promotieonderzoek gaat Jasper Kars zich de komende jaren richten op het samenspel tussen AI en democratie. In deel 1: wat zijn de belangrijkste voorbeelden van deze wisselwerking op dit moment?

In het verkiezingsjaar 2024 mogen veel Europeanen meerdere keren naar de stembus. Tegelijkertijd staat dit jaar ook in het teken van de groeiende belangstelling voor en mogelijkheden van kunstmatige intelligentie (AI). Het is dan ook geen toeval dat de wisselwerking tussen deze technologie en democratie steeds meer aandacht krijgt.

Democratie is allesbehalve een statisch gegeven en nooit ‘af’. Dan is de vergelijking met AI snel gemaakt: een technologie die voortdurend in ontwikkeling is en waarvan de impact op onze samenleving steeds zichtbaarder wordt. AI wordt daarnaast niet alleen gevormd door technologische vooruitgang, maar ook door sociale, economische en politieke krachten. Dit samenspel is in Nederland duidelijk merkbaar — een land met een lange democratische traditie.

In 1848 legde Thorbecke met zijn aanpassingen aan de Grondwet een belangrijk fundament voor de parlementaire democratie. Zijn hervormingen, zoals de invoering van ministeriële verantwoordelijkheid en meer autonomie voor decentrale overheden, gaven richting aan het Nederlandse staatsbestel. Nu, met de opkomst van een nieuwe technologische revolutie rond AI, rijst de vraag welke invloed deze technologie heeft op de fundamentele structuur van de democratie, ook wel het ‘Huis van Thorbecke’ genoemd.

In mijn onderzoek ga ik me de komende jaren richten op dit samenspel tussen AI en de democratie. Wat zijn de belangrijkste voorbeelden van de wisselwerking tussen AI en democratie in Nederland op dit moment? Hierbij richt ik me op vier dimensies: het staatsbestel, politiek, beleid en de betrokkenheid van burgers (polis). In deze eerste blog licht ik deze dimensies verder toe.

Staatsbestel: AI als steunpilaar van de uitvoerende macht

Het staatsbestel vormt de institutionele basis van onze democratie. Een belangrijke wijziging die Thorbecke in 1848 doorvoerde, was de verankering van een zekere scheiding der machten: de wetgevende, uitvoerende en rechterlijke macht. Vandaag de dag zien we dat vooral de uitvoerende macht in Nederland gebruikmaakt van AI om haar werk te ondersteunen, wat een begrijpelijke reflex is gezien de grote hoeveelheid opgaven waarmee zij in de dagelijkse praktijk te maken hebben.

Gemeenten en uitvoeringsorganisaties zetten AI in om processen te stroomlijnen en burgers beter te bedienen. Denk bijvoorbeeld aan AI-chatbots die automatisch advies geven of systemen die burgers wijzen op regelingen waar ze recht op hebben. Deze snelle AI-adoptie roept vragen op, vooral op het gebied van transparantie en grondrechtenbescherming.

De wetgevende en rechterlijke macht kunnen het tempo van AI-adoptie vooralsnog niet volgen en benutten nog niet volledig de mogelijkheden die AI biedt om allerlei processen te vergemakkelijken. Dat hoeft niet problematisch te zijn. Het is vooral het gebrek aan kennis en het onvermogen om de flink gegroeide uitvoerende macht en de toegenomen inzet van AI effectief te controleren, die onder druk staan.

De manier waarop AI-inzet zijn intrede doet in belangrijke instituties van de democratische rechtsstaat, met de bijbehorende risico's, en de mate waarin deze instituties de kansen van deze ontwikkelingen benutten, geeft een beter beeld van de wisselwerking tussen AI en democratie en hoe dit ons staatsbestel de komende jaren (verder) zal beïnvloeden.

Politiek: van ‘technologie’ naar ‘politiek thema’

Politici beschouwden technologie lang als een puur technische aangelegenheid, ver van het politieke debat. Maar dit is snel aan het veranderen. De ontwikkeling en het gebruik van AI raken uiteindelijk allerlei waarden die van belang zijn in een democratische samenleving en beïnvloeden daarbij bestaande machtsstructuren (bijvoorbeeld tussen overheid en grote techbedrijven of in de relatie burger-overheid).

Dat AI zijn intrede heeft gedaan in de politieke arena, blijkt bijvoorbeeld uit de oprichting van de Vaste Kamercommissie Digitale Zaken in 2021. Sindsdien zijn er tal van debatten gevoerd over de impact van AI op beleid, zoals de Europese AI-verordening en het gebruik van algoritmes door de overheid.

Niet alleen het debat over AI groeit, maar ook het gebruik ervan door politici zelf. Zo maakte de politieke partij BBB bekend dat ze ChatGPT hadden ingezet bij het schrijven van hun verkiezingsprogramma, terwijl Volt generatieve AI gebruikt voor andere politieke taken. Deze ontwikkelingen laten zien dat AI niet langer slechts een onderwerp is voor beleidsmakers; het beïnvloedt nu ook direct de manier waarop politiek wordt bedreven.

De ‘politisering’ van AI – zowel de manier waarop deze technologie in het politieke debat wordt aangehaald als de groeiende inzet ervan binnen het politieke bedrijf – laat duidelijk zien dat het samenspel tussen democratie en AI zich ontwikkelt.

Beleid: AI onder de loep van wetgeving en andere instrumenten

De beleidsdimensie gaat over de uitkomsten van het politieke proces: van beleidsvisies tot wetgeving. De afgelopen jaren is er veel gebeurd op dit vlak. Vanaf 1 augustus 2024 geldt in Nederland de nieuwe EU AI-verordening, die strikte regels stelt aan het gebruik van AI op basis van risicogroepen. Deze verordening beoogt de ontwikkeling en het gebruik van AI te reguleren om zowel innovatie als mensenrechten te beschermen.

Daarnaast hebben verschillende overheidsorganisaties hun eigen richtlijnen ontwikkeld. Voorbeelden hiervan zijn de Impact Assessment voor Mensenrechten bij de inzet van Algoritmes (IAMA) en het algoritmeregister van de overheid, waarin bijgehouden wordt waar en hoe AI wordt ingezet. Decentrale overheden, zoals de gemeente Utrecht, hebben ook hun eigen standpunten. Zo hanteert Utrecht regels over welke gegevens in generatieve AI-systemen mogen worden ingevoerd, die afwijken van het beleid van de Rijksoverheid.

Dit laat zien hoe verschillende spelers binnen het democratisch bestel aan diverse knoppen kunnen draaien (zoals wetgeving, beleid en interne richtlijnen) om deze technologie op verschillende manieren bij te sturen, en zich tegelijkertijd laten ‘sturen’ door de snelle technologische ontwikkelingen.

Polis: AI en burgerparticipatie

Voor een goed functionerende democratie is het van belang dat burgers goed geïnformeerd zijn en actief betrokken worden bij het democratische proces. AI biedt hier zowel kansen als uitdagingen. Vanuit het perspectief van de ‘polis’ zijn er drie typen initiatieven te onderscheiden: democratie over AI, democratie via AI, en democratie over en via AI.

Bij democratie over AI gaat het om burgerfora en publieke debatten waarin de wenselijkheid van AI wordt besproken. Zo heeft België recent een burgerpanel georganiseerd waarin burgers hun visie op de toekomst van AI konden delen. In Nederland zien we hier nog weinig van, maar de vraag is hoe lang dat zo blijft.

Democratie via AI betreft initiatieven waarbij AI wordt ingezet om online burgerparticipatie te faciliteren. Een goed voorbeeld is het project van de provincies Groningen en Zuid-Holland, waar AI werd ingezet om digitale debatten te modereren.

Tot slot, democratie over en via AI combineert deze twee benaderingen door burgers actief te betrekken bij de ontwikkeling en het gebruik van AI. Een Nederlands team heeft financiering ontvangen om de applicatie Common Ground te ontwikkelen, die AI inzet om discussies in kleine groepen te modereren. Zo kan AI zelf een rol spelen in het versterken van de democratie.

Het Huis van Thorbecke in het AI-tijdperk

Bovenstaande initiatieven zijn veelbelovend, maar bevinden zich nog in een vroeg stadium. Met de toenemende inzet van AI door overheden en politieke partijen, groeit de noodzaak om deze technologie verantwoord en transparant in te zetten. Democratie is immers meer dan alleen beleid; het gaat om betrokken burgers die kritisch kunnen meedenken en meepraten. AI kan hierbij een krachtige tool zijn, maar alleen als de spelregels duidelijk zijn en in lijn liggen met de democratische principes die Thorbecke 175 jaar geleden in Nederland verankerde.

In de komende vijf jaar zal de wisselwerking tussen democratie en AI zich verder manifesteren. In mijn promotieonderzoek onderzoek ik deze transformatie vanuit verschillende invalshoeken. Deze reeks (blog)artikelen gaat nader in op de belangrijke lessen, bevindingen en reflecties die ik tijdens deze reis opdoe.