Staatsrechtconferentie: Staatsrecht in de datasamenleving

Data, data-analyses en algoritmen spelen een steeds belangrijker rol in processen van bestuurlijke besluitvorming en handhaving. Allerlei eenvoudige beschikkingen worden volledig geautomatiseerd genomen met behulp van algoritmen, waarbij de uitkomst van het algoritme meteen het besluit bepaalt. In toenemende mate helpen algoritmische bigdata-analyses tegenwoordig ook bij het nemen van complexere besluiten en bij het stellen van handhavingsprioriteiten. Hoewel er grote voordelen zijn verbonden aan deze inzet van algoritmes, bestaan er vanuit rechtsstatelijk perspectief ook de nodige risico’s.

De vraag is bijvoorbeeld of er genoeg democratische controle is op de inzet van algoritmes, of er voldoende ‘checks and balances’ zijn ingebouwd in de besluitvorming daarover, en hoe de legitimiteit van overheidshandelen wordt beïnvloed door algoritmes. Ook spelen er fundamentele constitutionele vragen, zoals de vraag hoe de algemeenheid van regelgeving wordt beïnvloed door de sterke nadruk die algoritmes leggen op individuele gevallen, en of effectieve rechtsbescherming kan worden geboden tegen besluitvorming aan de hand van algoritmes. Daarnaast komen er vragen op rondom de relatie tussen burger en overheid. Welke meer structurele en maatschappelijke gevolgen heeft geautomatiseerde besluitvorming voor burgers, en worden zij daar voldoende tegen beschermd?

In deze deelsessie staan dergelijke kwesties van democratische controle, legitimiteit en legaliteit, ‘checks and balances’ en (rechts)bescherming van de burger bij de inzet van algoritmes centraal.

Preadviezen

Albert Meijer en Stephan Grimmelikhuijsen (Universiteit Utrecht), Algoritmisch bestuur. Hoe het gebruik van algoritmen de legitimiteit van de overheid bedreigt en wat we hieraan kunnen doen (pdf)

Jurgen Goossens, Ernst Hirsch Ballin en Eva van Vugt (Tilburg University), Algoritmische beslisregels en geautomatiseerde feitenvaststelling: gevolgen voor de fundamentele uitgangspunten van het Nederlandse constitutionele recht (pdf)

Reflectie

Reinier van Zutphen en Jos van de Wiel (Nationale Ombudsman), Automatisering en ruimte voor de menselijke maat

Dit panel gaat in op de vraag hoe de datasamenleving moet omgegaan met grote hoeveelheden data. Een belangrijk kenmerk van de datasamenleving is dat de ontwikkelingen in die samenleving zich in een steeds sneller tempo voltrekken, gedreven door datatechnologieën. Daarbij is de impact van digitale handelingen en de inzet van datatechnologieën vaak groter dan de impact van gelijksoortige handelingen in de fysieke wereld.

Dat leidt tot rechtstatelijke vragen, omdat veel rechtsstatelijke waarborgen juist vragen om tijd en traagheid. Traagheid stelt rechtsstatelijke instituties immers in staat om tot een afgewogen reflectie en oordeel te komen. Een tweede kenmerk van de datasamenleving is dat die samenleving gedomineerd wordt door private partijen. Zo is de overheid voor de opslag van data, en voor de analyse van die data (deels) afhankelijk van private partijen. Ook door deze voortschrijdende privatisering komen rechtsstatelijke waarden onder druk te staan. Een derde element van de datasamenleving is de veronderstelling van maakbaarheid. Op dat laatste thema wordt ingegaan vanuit het perspectief van de onderwijsvrijheid.

Preadvies

Evert Stamhuis (Erasmus Universiteit Rotterdam), Het gewenste niveau van datafixatie (voorlopige titel)

Essay

Jochem Streefkerk (Van Doorne Advocaten) & Rob van Putten (Christelijke Hogeschool Ede), De verleiding van het algoritme. Maakbaarheidsdrang in de datasamenleving geïllustreerd

In een tijd van hypes zijn de termen nepnieuws, desinformatie en post-truth misschien wel hyperhypes. Over de bruikbaarheid van deze termen is veel debat. Toch lijkt er wel iets aan de hand. Niet alleen is de beschikbaarheid en de rol van informatie voor de beleidsvorming de afgelopen decennia sterk toegenomen, er is ook een groeiend ongemak over de waarde van die informatie. Misleidende of onbetrouwbare informatie kan, dankzij nieuwe technologie en sociale media, sneller dan voorheen van grote invloed zijn op de besluitvorming. Daarnaast lijkt er steeds minder vertrouwen te bestaan in zowel de traditionele bronnen van onafhankelijke waarheidsvinding en nieuwsgaring, zoals de klassieke media, als in de informatie die via sociale media en webfora wordt verspreid.

Deze ontwikkelingen roepen vanuit staatsrechtelijke perspectief verschillende vragen op. Eén reeks vragen heeft betrekking op de vraag of nepnieuws een werkbaar concept is, of het bestreden moet worden en hoe daartegen vanuit grondrechtelijk perspectief moet worden aangekeken. Moeten we toe naar regulering van sociale media? Een andere kwestie betreft vragen over de gevolgen van post-truth politics voor het proces van democratische verantwoording. Verandert het politieke bedrijf van karakter, en als dat zo is, heeft dat dan gevolgen voor de normen die dat politieke bedrijf reguleren? En wat zijn de gevolgen van post-truth politics voor de wijze waarop bijvoorbeeld invulling wordt gegeven aan de ministeriële verantwoordelijkheid?

Preadviezen

Luc Verhey (Universiteit Leiden en Raad van State), ‘Post-truth politics’: de democratische rechtsstaat bedreigd?

Michael Hameleers (Universiteit van Amsterdam), Informatievervuiling in Digitale Samenlevingen: Populisme, Desinformatie en de Spiraal van Post-Truth Politics

Essay

Jaron Harambam (KU Leuven), De/politisering van de waarheid

Gebruik van data door inlichtingen- en veiligheidsdiensten is een hot topic. Niet alleen kunnen de AIVD en de MIVD met de nieuwe Wet op de inlichtingen- en veiligheidsdiensten (Wiv 2017) grote hoeveelheden data verzamelen, ook mogen zij deze data analyseren door hierop algoritmes los te laten. Het blijkt dat er grote uitvoeringsproblemen zijn bij het toepassen van geautomatiseerde data-analyse. Dat heeft mogelijk invloed op de taakuitvoering van de AIVD en de MIVD en de bescherming van de nationale veiligheid. Ook heeft dit invloed op de bescherming van de rechten en vrijheden van burgers.

In zijn preadvies doet Oerlemans enkele voorstellen tot aanpassing van de Wiv 2017 om tot betere regelgeving op het gebied van gegevensverwerking te komen. Gegevensverwerking door inlichtingendiensten is een thema dat past binnen het bredere onderwerp ‘digitale soevereiniteit’. Dat betreft het vermogen van nationale staten om zeggenschap te hebben over de digitale infrastructuur van hun grondgebied en de data van hun burgers. Dit begrip wordt in steeds bredere context gebruikt en kan daarmee gelinkt worden aan vele actuele gebeurtenissen. Denk hierbij aan de Amerikaanse ban van Huawei, kritiek op sociale media platforms en hun maatregelen om fake news en misinformatie tegen te gaan, en het Duits-Franse initiatief om een eigen Europese cloudinfrastructuur op te zetten, (GAIA-X). In hun preadvies gaan Moerel &Timmers in op de vraag hoe onze digitale soevereiniteit op dit moment onder druk staat en stellen zij maatregelen voor die kunnen worden overwogen om die soevereiniteit te versterken.

Preadviseurs

Jan-Jaap Oerlemans (Universiteit Utrecht), Gegevensverwerking door inlichtingen- en veiligheidsdiensten

Lokke Moerel (Tilburg University) en Paul Timmers (Oxford University), Reflecties over Digitale Soevereiniteit (pdf)