23 september 2019

Werkconferentie Hersenvredebreuk brengt neurotechnologie in kaart

Het menselijke brein gehackt: toekomstmuziek?

© iStockphoto.com

Het hacken van de hersenen van mensen klinkt nog als toekomstmuziek, als iets dat je in een scifi-film ziet. Maar met de ontwikkeling van nieuwe technologieën is het raadzaam alvast na te denken over de zwakke plekken van deze mogelijkheid. Dat is de insteek van de werkconferentie Hersenvredebreuk, die op 4 oktober wordt georganiseerd door het Centre for the Humanities en het Centre for Global Challenges. Experts op het gebied van inlichtingen- en veiligheidsdiensten, de neurowetenschap, ethiek en het recht zullen zich buigen over de risico’s van brainhacking en brainjacking. De thematiek is actueel in verband met de evaluatie van de Wet op de inlichtingen- en veiligheidsdiensten, die is voorzien voor het voorjaar van 2020.

“Steeds meer mensen krijgen elektronische implantaten in hun hersenen, of er komt op een andere manier een verbinding tot stand tussen hersenen en computers”, licht prof. dr. Bob de Graaff (profileringshoogleraar Intelligence en security studies) toe. “Implantaten worden nu vaak nog gebruikt om medische problemen te verhelpen, bijvoorbeeld om mensen die hun spraakvermogen hebben verloren te laten spreken." "Of mensen met Parkinson worden met behulp van stimulerende devices geholpen," voegt prof. dr. Nick Ramsey (hoogleraar cognitieve neurowetenschap, UMC Utrecht Hersencentrum) toe.

Implantaten brengen gevaren met zich mee, zoals het hacken of manipuleren van de hersens

Volgens Ramsey gaan de neurotechnologische ontwikkelingen tot nog toe niet heel snel. De grootse belemmeringen zijn de financiering en de beperkte afzetmarkt. “Daarnaast kunnen neuroprothesen nu nog niets bieden wat het menselijk lichaam niet al veel beter kan. Meer conceptuele protheses, die écht iets nieuws bieden, vergen nog een immense ontwikkeling. Ik denk overigens dat de beveiliging mee zal groeien met de ontwikkeling van dit soort neuroprothesen.” De Graaff maakt zich daar meer zorgen over: "implantaten brengen gevaren met zich mee, zoals het hacken of manipuleren van de hersens.” 

© iStockphoto.com

Brainhacking

“Elektronische verbindingen kunnen, net als computers, gehackt worden en eventueel gemanipuleerd. Dit eerste heet brainhacking en dat laatste brainjacking, wat we samengenomen hersenvredebreuk noemen. Hier ligt vanuit de optiek van inlichtingen- en veiligheidsdiensten zowel een bedreiging als een kans."

Toen de nieuwe wet op de inlichtingen- en veiligheidsdiensten (WIV 2017) tot stand kwam, zijn er pleidooien, zij het zwakke, opgegaan om betere garanties in de wet op te nemen ter bescherming van de lichamelijke integriteit.
alumni_GraaffBobde_120x80

Wat willen hackers?

Het is goed om in kaart te brengen wat de mogelijke vormen van hersenvredebreuk zijn. Volgens De Graaff verschilt dat niet zo veel van het hacken in het algemeen: “De gevaren zijn het plaatsen van malware, het stelen van gegevens en het eisen van een losprijs. Maar er zijn ook subtielere acties denkbaar, zoals rechtstreekse beïnvloeding. Je hoeft daarbij niet alleen aan criminelen te denken. In het verleden hebben bepaalde inlichtingen- en veiligheidsdiensten aan brainwashing (hersenspoeling) gedaan of met behulp van farmaceutica aan mind control proberen te doen. De ambitie is er dus al geweest. Dus waarom nu niet langs deze weg?”

© iStockphoto.com

De hersenen als strijdperk

De insteek van de werkconferentie is het in kaart brengen van de (toekomstige) mogelijkheden, de valkuilen en de nodige aanpassingen in wetgeving en techniek. Anders kunnen er volgens De Graaff onvoorziene gevolgen zijn: “Er zijn twee dingen waar ik me zorgen over maak. Het eerste is de tendens naar weaponization van het brein. Sommige experts voorspellen dat na land, zee, lucht, cyberspace en de ruimte de hersenen het zesde strijdperk zullen worden. Het tweede is dat het erop lijkt dat de breakers (de mensen met kwade bedoelingen) zich nieuwe technologie steeds sneller eigen maken in verhouding tot de makers (de mensen met goede bedoelingen). We moeten oppassen dat mensen met goede bedoelingen niet het Research en Development-werk doen voor schurken.”

Neurorecht

© iStockphoto.com

De insteek van de werkconferentie is het in kaart brengen van de (toekomstige) mogelijkheden, de valkuilen en de nodige aanpassingen in wetgeving en techniek. Anders kunnen er volgens De Graaff onvoorziene gevolgen zijn: “Er zijn twee dingen waar ik me zorgen over maak. Het eerste is de tendens naar weaponization van het brein. Sommige experts voorspellen dat na land, zee, lucht, cyberspace en de ruimte de hersenen het zesde strijdperk zullen worden. Het tweede is dat het erop lijkt dat de breakers (de mensen met kwade bedoelingen) zich nieuwe technologie steeds sneller eigen maken in verhouding tot de makers (de mensen met goede bedoelingen). We moeten oppassen dat mensen met goede bedoelingen niet het Research en Development-werk doen voor schurken.”

Naast besprekingen op gebied van neurologie en beveiliging zal er ook gesproken worden over neurorecht.  “Neurorecht is een nieuw en zich snel ontwikkelend interdisciplinair onderzoeksgebied. Hierin werken onder meer juristen, ethici, neurowetenschappers, artsen en psychologen samen”, aldus prof. dr. Gerben Meynen (hoogleraar forensische psychiatrie aan het Willem Pompe Instituut voor Strafrechtswetenschappen). “Wat is de betekenis van de neurowetenschappen voor het recht? Kunnen de neurowetenschappen helpen om individuen – bijvoorbeeld verdachten – te onderzoeken? Hersenscans worden nu al, zij het niet vaak, gebruikt in onderzoek naar de toerekeningsvatbaarheid van verdachten.”

Wat mag de overheid?

“Wellicht wordt het in de toekomst mogelijk om, in zekere zin, "gedachten te lezen" – zou dat in het strafrecht kunnen worden toegepast? En zou het, meer precies, in de forensische psychiatrie kunnen worden gebruikt, bijvoorbeeld om risico op recidive in te schatten?” Dit zijn vragen die Meynen bezig houden. “Zou je een verdachte kunnen dwingen een hersenscan te ondergaan? Een fundamenteel principe is dat je als verdachte niet hoeft mee te werken aan je eigen veroordeling, je hebt "zwijgrecht". Tegelijkertijd wordt er bij een verdachte soms wel DNA afgenomen. Nu is, kort gezegd, de vraag: betekent gedwongen "gedachtenlezen" met hersenscans dat verdachten eigenlijk tegen zichzelf moeten gaan getuigen (wat niet mag) of moeten we het zien als een variant op het gedwongen afnemen van DNA (wat, in bepaalde omstandigheden, wel mag)? Het is duidelijk dat deze vragen bijzondere ethische en juridische aandacht verdienen.”

De werkconferentie op 4 oktober vindt plaats in het Academiegebouw in Utrecht.