Promotieonderzoek naar begrijpelijker maken van AI-taalsystemen

Kunstmatige-intelligentiesystemen zoals ChatGPT kunnen tekst schrijven, vertalen en vragen beantwoorden, bijna als een mens. Maar ze werken als een "black box": zelfs de makers kunnen vaak niet uitleggen waarom een model een bepaald antwoord gaf. Dat wordt een probleem zodra zulke systemen meebeslissen over belangrijke zaken, bijvoorbeeld in de zorg, in de financiële wereld of bij het bepalen wat online geplaatst mag worden. Nieuwe Europese regels zoals de EU AI Act vereisen nu dat zulke risicovolle systemen transparant en controleerbaar zijn.

Met zijn proefschrift wil Hadi Mohammadi AI-taalsystemen begrijpelijker maken. Mohammadi: “Het idee is om in gewone taal te laten zien waarom een model tot een beslissing komt, zodat mensen die kunnen controleren en vertrouwen. Mijn onderzoek brengt dit in de praktijk. Eén deel bouwt een systeem dat seksistische berichten online herkent en precies aanwijst welke woorden tot dat oordeel leidden, wat menselijke moderators helpt. Een ander deel laat zien dat door AI geschreven tekst voor detectoren verborgen kan worden met dezelfde technieken die AI moeten verklaren, een waarschuwing voor iedereen die op automatische detectie vertrouwt.”

Een tweede thema van zijn proefschrift is of AI menselijke waarden deelt. “Door modelantwoorden te vergelijken met grote internationale enquêtes laat ik zien dat de huidige modellen vooral westerse morele opvattingen weerspiegelen en veel minder nauwkeurig zijn voor andere culturen.”

De onderzoeksresultaten van Mohammadi laten zien dat goede uitleg AI betrouwbaarder en eerlijker kan maken. “Ze tonen ook hoe ver we nog zijn van systemen die elke cultuur gelijk behandelen, en dat transparantie een blijvend streven moet zijn.”