Onderzoeker Veronika Nagy: “Onze digitale bureaucratische systemen zijn beperkt en soms gevaarlijk”

De toeslagenaffaire was voor haar geen verrassing. Onderzoekers zoals zij waarschuwen al tien tot twintig jaar dat het categoriseren van mensen in digitale systemen voor sociaal beleid potentieel schadelijk en criminaliserend is. Veronika Nagy, bestudeerde digitale gegevensverzameling van Roma-migranten in het VK en ook vluchtelingen in andere delen van Europa. Ze wilde een beter begrip krijgen van bijzondere online informatie-uitwisseling en hoe we via digitale systemen met mensen omgaan die migreren.

Is er (nog steeds) te veel digitaal optimisme bij de overheid?

We moeten er altijd rekening mee houden dat informatie in datasystemen nooit volledig een persoon vertegenwoordigt en dat alle administratieve systemen zijn gebouwd op specifieke belangen. Hoewel veel van de huidige administratieve technologieën met goede bedoelingen worden geïmplementeerd, moeten deze niet alleen rekening houden met bureaucratische behoeften, maar ook rechten zoals sociale rechtvaardigheid beschermen. Met de ontwikkeling van databases, in het bijzonder met het toenemende gebruik van algoritmische besluitvorming, zijn er verschillende problemen waarmee rekening moet worden gehouden. Als je kenmerken gebruikt om mensen te categoriseren, bijvoorbeeld nationaliteit, geslacht, religie, taal, sociale klasse, neem je ook culturele vooroordelen op.

Bedrijven promoten dat digitale implementatie van sociaal beleid efficiënt, objectief, snel en transparant is, in tegenstelling tot mensen die traag, subjectief en inefficiënt zijn. Maar recente schandalen, zoals de toeslagenaffaire, laten ons zien dat technologie nieuwe ethische en praktische uitdagingen met zich meebrengt. Er kan een vicieuze cirkel onstaan van slechte feedback in profileringssoftware. We zagen dat al eerder, op grote schaal zagen, als gevolg van valse of verouderde gegevens. Die slechte feedback resulteert in valse beschuldigingen, discriminatie of zelfs criminalisering. Deze systemen leiden vaak tot meer wantrouwen, meer toezicht en treffen de toch al kwetsbare groepen in de samenleving, waardoor die meer achtergesteld en zelfs kwetsbaarder worden dan ze al waren, als gevolg van overheidsfouten waar niemand verantwoordelijk voor lijkt te zijn.

Twee onderwerpen die je onlangs hebt bestudeerd, zijn toezicht, "surveillance" en zelfcensuur. Wat heb je ontdekt?

Toezicht, bijvoorbeeld op het gebied van grensbewaking, wordt niet meer strikt door lokale overheden of politie gedaan. Het wordt vaak gedaan door overheidsprojecten die samenwerken met particuliere beveiligingsbedrijven. Die bedrijven screenen auto's, telefoons en huizen. Er is een commercialisering van veiligheidsdiensten en de verschillende partijen vertegenwoordigen verschillende waarden en belangen. Technologie bij grensbewaking is niet problematisch omdat deze bedrijven kwaad zouden willen doen.  Wat wel een probleem is, is dat ze soms doelen hebben die tegenstrijdig zijn met mensenrechten.

Het probleem is alleen dat overheden zelf niet kunnen voldoen aan de huidige verwachtingen van grip op migratie. Daardoor worden ze gedwongen om alle tools die mensen gebruiken digitaal te volgen en te traceren. Bovendien is de grote techlobby erg sterk: de overheid maakt dan een afweging. Overheden willen goede internetnetwerken, 5G, soepel werkende telefoons en kijken daarom soms de andere kant op als technologie ethische problemen oplevert over privacy, datagebruik of toezicht. We moeten er allemaal op letten dat zowel bedrijven als overheden moreel, ethisch en sociaal blijven handelen en hun verantwoordelijkheid dragen voor fouten. We weten allemaal dat onze mobiele gegevens kunnen worden gevolgd. Migranten die vermoeden dat ze worden gescreend, oefenen in toenemende mate zelfcensuur uit. Niet alleen om zichzelf te beschermen, maar ook om hun familie of verwanten te beschermen in het land waar ze vandaan komen.

Hoe worden mensen gescreend en hoe reageren ze?

“Het is veel meer dan simpelweg door zichzelf het zwijgen op te leggen tijdens een gesprek, of door niet te sms'en over hun verblijfplaats of andere gevoelige informatie. Ze kiezen bewust voor bepaaldehardware, software, simkaarten, providers of gebruiken wisselende accounts. Autoriteiten die toegang willen hebben en de identiteit van een migrant willen vastellen, gebruiken stemherkenning, dialectherkenningssoftware, ze volgen browsergeschiedenis, gps-gegevens, gebruiken inhoudsanalyses van sociale media-accounts of brengen contactlijsten in kaart."

"Als reactie hierop worden mensen die reizen en die vrezen dat deze beoordelingen negatief uitpakken, zeer creatief. Ze leren van elkaar leren om hun digitale voetafdruk te beheren. Ze gebruiken copingstrategieën om uitzetting uit een land te voorkomen, door gegevenssporen te censureren. Ze vragen om verwijderd te worden van digitale plaatsen, manipuleren verschillende accounts online, verwijderen hun telefooninhoud of bewerken die."

Migranten worden heel creatief. Telegram voor een informele taxirit of Datingapp Tinder om een opvangadres te vinden.

"Sommige migranten schakelen zelfs tussen verschillende platforms in één enkel gesprek. Ze gebruiken platforms voor andere doeleinden dan waarvoor ze zijn ontworpen, zoals Telegram voor een informele taxirit of TikTok om hun reis te documenteren. Datingapp Tinder wordt gebruikt om adressen te vinden van mensen die vluchtelingen willen opnemen. Ik heb een onderzoeksproject uitgevoerd met de titel Virtual Asylum - Hiding Refugees from the all-seeing Eye of Europe, waarin ik onderzoek hoe gestigmatiseerde vluchtelingen zich aanpassen aan snel veranderende omstandigheden. Ze hebben inventieve methodes voor het delen van virtuele gegevens in het bureaucratische labyrint van verblijfplaatsen. De Stichting Gerda Henkel heeft mij geholpen bij de financiering van dit onderzoek, het rapport verschijnt binnenkort."

Hoe doe je onderzoek?

Naast mijn theoretisch onderzoek doe ik als antropoloog veldwerk en gebruik ik vaak empirische methoden: ik ga naar plaatsen waar het sociale probleem zich voordoet dat ik probeer te onderzoeken. Ik ben ter plekke en blijf zoveel mogelijk bij de mensen waar ik over schrijf. Mijn doel is om te leren hoe ze besluiten nemen en om hun realiteit te ervaren. Door deze verzameling van verschillende perspectieven probeer ik hun zorgen, hun opvattingen, reflecties, ervaringen te reconstrueren. Ik wil de marges in sociale rechtvaardigheid, gecreëerd door digitale overheidssystemen laten zien. Ik heb veldwerk gedaan in Turkije, Griekenland, Hongarije, Duitsland en Nederland, Frankrijk. Zo is er een NGO die een telefoondienst aanbiedt vanuit een bus in de regio Calais, in Frankrijk, waar ze bijvoorbeeld telefoons voor vluchtelingen repareren."

Mensen trekken zelden puur pragmatisch van A naar B. Het leven speelt mee: dood, liefde, ziekte, toevalligheden. Migratie volgt een grillig pad.

Sommige beleidsmakers denken dat migranten heel doordachte keuzes maken om ergens heen te gaan. Uit mijn onderzoek blijkt echter dat mensen zelden puur pragmatisch van A naar B reizen. Ze worden beïnvloed door: veranderingen in huisvesting of banen, beslissingen van vrienden of familie die misschien ook migranten zijn, dood, liefde, ziekte, toevalligheden, sociale diensten, nieuwe kansen. Migratie volgt een grillig pad.

Wat vind je van de invloed van de oorlog in Oekraïne op de manier waarop Europa omgaat met migratie?

Als Hongaar die nu in Nederland woont, mis ik een genuanceerde West-Europese vertegenwoordiging van postcommunistische landen als Oekraïne. Het lijkt erop dat we nog steeds niet zijn bekomen van het ijzeren gordijn. We teren nog op het verhaal van na de koude oorlog waarin die simpele tweezijdige geopolitieke spelers (oost en west) nog steeds domineren. Ik zie zowel de regio, als Oekraïne zelf, als een gemengd, multicultureel gebied waar mensen met veel verschillende identiteiten wonen. Door de jaren heen is de context waarin mensen leven veranderd en ook de dominantie van bepaalde identiteiten."

Het is gemakkelijk om je uit te spreken tegen de oorlog in Oekraïne, het is moeilijker om vast te stellen wie wordt uitgebuit, wie asiel verdient, wie een dissident is. En wat betreft de Oekraiense vluchtelingen: migratie wordt nooit alleen financieel gevoed, er zit veel meer achter. Voor onze aanpak moeten we proberen de redenen achter bepaalde acties te begrijpen en het politieke discours in Midden-Europa proberen te begrijpen.