Adem en ‘toys’: deze twee geesteswetenschappelijke onderzoeken krijgen een ERC Grant

Onze planeet kampt met crises die door mensen zijn veroorzaakt: hoe leggen we zowel de ecologische als de sociale impact hiervan bloot? En wat zijn de voor- en nadelen van het gebruik van AI bij het creëren van nieuwe (wetenschappelijke) kennis? Twee projecten die antwoorden zoeken op deze vragen, geleid door respectievelijk Magdalena Górska en Emily Sullivan, ontvangen een ERC Starting Grant van de European Research Council.

De link tussen milieuproblemen en sociale ongelijkheid

In haar project RESPIRE: Planetary Breathing in Asphyxiating Times introduceert Magdalena Górska het concept ‘planetary breathing’ (letterlijk: ‘planetaire ademhaling’). “Je kunt zeggen dat jouw adem nooit helemaal ‘van jou alleen’ is”, legt ze uit. “Met elke adem delen we de lucht met andere mensen, dieren, planten, microben, waterlichamen en de bodem.” Voor haar is planetary breathing dan ook geen metafoor. “We zijn allemaal co-respirators, omdat alles letterlijk met elkaar is verbonden door de lucht, en daarmee door ademhaling.”

Maar hoewel we allemaal lucht nodig hebben, bestaan er grote verschillen in de kwaliteit ervan, zegt Górska. Deze ongelijkheid in planetary breathing is volgens haar nauw verbonden met sociale processen, zoals racialisering, migratie, klassenverschillen en geopolitieke machtsverhoudingen. In RESPIRE werkt ze met natuurwetenschappers, organisaties en kunstenaars om dit nieuwe onderzoeksgebied gezamenlijk verder te ontwikkelen.

Milieuproblemen en sociale kwesties gaan hand in hand

Om een nieuwe wetenschappelijke benadering uit te werken, richt het RESPIRE-team zich op drie planetaire ‘longen’ en hun specifieke sociale en milieuproblemen: bossen (ontbossing), oceanen (dode zones) en bodem (veenmoerassen). “Dit soort milieuproblemen is traditioneel voornamelijk door natuurwetenschappers onderzocht”, zegt Górska. “Nu, in RESPIRE, verbinden we deze milieuproblemen met hun sociale dimensies, want milieu- en sociale toxiciteit hand gaan in hand.”

“Dit soort milieuvraagstukken is traditioneel voornamelijk door natuurwetenschappers onderzocht.”

De meerwaarde van de geesteswetenschappen is volgens Górska het vermogen een conceptueel begrip te ontwikkelen van de wereld waarin we leven. In RESPIRE wil ze bovendien gebruikmaken van interdisciplinaire en intersectionele feministische perspectieven. “Deze kunnen normen uitdagen en sociale machtsverhoudingen blootleggen. We combineren de verschillende benaderingen met inzichten uit de natuurwetenschappen om te begrijpen hoe milieuproblemen en sociale ongelijkheid nauw met elkaar zijn verweven, en om nieuwe manieren te ontwikkelen om na te denken over planetaire ademhaling en verstikking.”

Als onderdeel van haar project zet Górska ook het onderzoekscentrum RESPIRATORIUM op. Hier brengt ze straks wetenschappers, kunstenaars en activisten samen, die zich bezighouden met de onderwerpen die zij en haar team bestuderen.

De impact van AI op wetenschap en samenleving

Steeds meer wetenschappen maken gebruik van kunstmatige intelligentie (AI) in de hoop problemen op te lossen of ontdekkingen te doen. “In de medische wetenschap haalde AlphaFold bijvoorbeeld onlangs het nieuws met een oplossing voor een langdurig probleem in het onderzoek naar eiwitstructuren”, vertelt Emily Sullivan. “Deze ontdekking kan onderzoek naar antibiotica, kankertherapie en veerkrachtige gewassen een enorme boost geven.”

Tegelijkertijd wordt AI ook in de samenleving gebruikt om informatie op te halen. “Zo zette de Nederlandse belastingdienst AI in om fraude op te sporen, maar die bleek discriminerend en leidde tot het toeslagenschandaal. En de zogenaamde grote taalmodellen hebben de maatschappij ongekend snel veranderd: miljoenen mensen vertrouwen nu op ChatGPT voor informatie, ondanks de bekende ‘hallucinaties’.”

Deep learning-modellen als ‘toy models’

“De verwachtingen rondom AI zijn enorm hoog”, zegt Sullivan. “We moeten daarom dringend de mogelijkheden – en gevaren – ervan evalueren, voor zowel wetenschap als samenleving.” In haar project Machine Learning in Science and Society: A Dangerous Toy? (TOY), focust ze zich op één bepaald type AI: deep learning (DL). “Bij DL worden computersystemen getraind om patronen te herkennen en beslissingen te nemen. Wij willen de mogelijkheden en beperkingen die DL voor kennisproductie heeft in kaart brengen.”

“We moeten dringend de mogelijkheden – en gevaren – ervan evalueren voor zowel de wetenschap als de samenleving.”

Het projectteam onderzoekt DL-modellen alsof het toy models zijn, sterk geïdealiseerde representaties die complexe real-world processen vereenvoudigen en vervormen. “Elk wetenschappelijk domein heeft wel dergelijke modellen om mee te ‘spelen’ en inzicht te krijgen in die complexe fenomenen”, legt Sullivan uit. “TOY belicht de waarde van deze modellen en idealisaties, en helpt ons te begrijpen wanneer het gebruik ervan nuttig is en wanneer het risico’s met zich meebrengt.”

“We hopen dat we straks zowel de verrassende successen – zoals AlphaFold – als de frequente missers – zoals de AI-modellen die COVID-19 moesten diagnosticeren – beter te begrijpen”, concludeert Sullivan. “En, ook niet onbelangrijk, we zoeken naar manieren om met deze fouten om te kunnen gaan.”