Fraudeurs inhalen met AI

Online betalingen groeien al jaren gestaag. Het risico op fraude neemt daardoor toe, maar fraude is lastig te bewijzen. Kunstmatige intelligentie (AI) kan een oplossing bieden. In het AI Lab for Sustainable Finance werken onderzoekers samen met de banksector aan slimme algoritmen die criminele activiteiten beter kunnen opsporen. Toch is AI geen heilige graal, waarschuwt universitair docent Ioana Karnstedt-Hulpus. Vijf vragen voor de coördinator van het AI Lab for Sustainable Finance.

Waarom is het zo moeilijk om fraude te detecteren bij digitale transacties?

Ioana Karnstedt-Hulpus: “Het aantal online betalingen neemt toe. Vooral de afgelopen paar jaar hebben we een behoorlijke stijging gezien in digitale transacties, wat het risico op fraude verhoogt. Wanneer er iets geks gebeurt in deze transacties, zoals een plotselinge gedragsverandering, slaat het fraudedetectiesysteem alarm. Analisten onderzoeken vervolgens deze transacties om te bepalen of er echt iets mis is.

Met het toenemende aantal online betalingen wordt dit alarm vaker geactiveerd, wat een enorme lading werk voor de analisten creëert. Bovendien blijken deze waarschuwingen niet altijd nauwkeurig te zijn. Voor sommige modellen blijkt 99,9 procent van de waarschuwingen vals positief te zijn. Als gevolg daarvan besteden analisten een enorme hoeveelheid tijd aan het onderzoeken van legitieme transacties van legitieme rekeninghouders. Hierdoor glippen de werkelijk problematische transacties ertussendoor door gebrek aan tijd.”

Hoe kan kunstmatige intelligentie hierbij helpen?

“Kunstmatige intelligentie kan helpen de werklast van analisten te verlichten. AI kan fraudedetectie verbeteren of snellere resultaten opleveren met minder inspanning van de menselijke analist. Een computermodel kan worden getraind om de kenmerken van frauduleuze transacties te identificeren, zoals, hoe vaak er geld wordt overgemaakt van een account, historische kennis van een account, of er een relatie is tussen de accounts die betrokken zijn bij de transactie, en de kenmerken van de rekeninghouder. Dit staat bekend als supervised machine learning, waarbij we het algoritme voorbeelden van eerdere fraude geven en het de opdracht geven om patronen te leren die het later kan gebruiken om frauduleuze gevallen in realtime te detecteren.

Een andere aanpak is wat we unsupervised machine learning noemen. Hierbij tonen we het systeem geen voorbeelden, maar instrueren het gewoon om bepaalde eigenschappen van transacties te berekenen en laten het vervolgens statistisch afwijkingen detecteren. De hypothese hier is dat een fraudegeval altijd opvalt omdat er iets aan de transactie is dat niet klopt.”

Miljoenen online betalingen zijn legitieme transacties, en de meeste rekeninghouders zijn eerlijke individuen.

Op welke manier draagt het AI Lab for Sustainable Finance bij aan fraudepreventie?

“In het AI Lab for Sustainable Finance dragen we bij aan fraudepreventie door experts uit de financiële sector samen te brengen met onze wetenschappers om gezamenlijk oplossingen te zoeken. We streven ernaar een ontmoetingsplaats te zijn waar financiële instellingen, zoals pensioenfondsen en banken, de problemen en uitdagingen waarmee ze worden geconfronteerd, kunnen bespreken. Onze expertise heeft niet per se betrekking op financiële criminaliteit. Onze onderzoekers kunnen bijvoorbeeld ook samenwerken met financiële instellingen om oplossingen te vinden voor het bouwen van een toekomstbestendige beleggingsportefeuille, waarbij de resultaten van academisch onderzoek direct in de praktijk worden toegepast.

Op dit moment werken twee promovendi samen met ING Bank aan een project voor fraudedetectie, waarbij grafische voorstellingen van het netwerk van digitale transacties worden gecreëerd. In deze grafische voorstellingen stellen knooppunten individuen of bedrijven voor, en de lijnen ertussen beelden financiële transacties uit. In dit netwerk van digitale transacties gebruiken we kunstmatige intelligentie om patronen te ontdekken. Bijvoorbeeld, een plotselinge stijging in de hoeveelheid transacties tussen anders niet-gerelateerde gemeenschappen kan duiden op fraude.”

Zullen er in de toekomst geen oplichtingspraktijken meer zijn dankzij kunstmatige intelligentie?

“Als AI erin slaagt mensen uit de banksector te verwijderen, zou dat inderdaad kunnen gebeuren. Maar ik denk niet dat dat een slim idee is. Bovendien zijn er op het gebied van AI meerdere uitdagingen die het lastig maken om op dit vlak grote stappen te maken.

Een probleem is dat het algoritme moet worden getraind met gegevens. Die training is lastig vanwege een gebrek aan gegevens. Dankzij onze samenwerking met ING hebben onze onderzoekers toegang tot de echte financiële gegevens van een bank, maar de meeste onderzoekers hebben dat niet omdat de bank - terecht - moet voldoen aan privacywetten en -regelgeving. Dit maakt de vooruitgang op dit gebied langzamer dan op andere gebieden.

Om dit te ondervangen, werken we ook met synthetische datasets. Door samen te werken met fraude-experts bij de bank krijgen onze onderzoekers een goed begrip van het domein, waardoor ze een dataset kunnen samenstellen met eigenschappen die de echte dataset nabootsen. Ze kunnen dan experimenteren en op zoek gaan naar patronen. Dit is een interessant onderzoeksgebied die volgens mij de komende tijd flink meer aandacht gaat krijgen.

Bovendien is het gebrek aan frauduleuze gegevens een groot probleem. Miljoenen online betalingen zijn legitieme transacties, en de meeste rekeninghouders zijn eerlijke individuen. Omdat er zo weinig voorbeelden zijn, is het voor machine learning uitdagend om patronen te identificeren die wijzen op fraude.

Tot slot zijn criminelen zeer bedreven in het veranderen van hun modus operandi en het vinden van nieuwe manieren om de systemen en slachtoffers uit te buiten. Zolang AI-modellen patronen leren uit het verleden, lopen we een stap achter op de fraudeurs. Daarom leggen we in het AI Lab for Sustainable Finance speciale nadruk op de unsupervised models die niet vastlopen in het gedrag uit het verleden.”

Criminelen zijn zeer bedreven in het veranderen van hun modus operandi

Welke ontwikkelingen verwacht je in de nabije toekomst?

“De financiële sector is behoorlijk gebonden aan regels. Daardoor staat de adoptie van AI-oplossingen nog op veel vlakken nog in de kinderschoenen. Dit biedt veel kansen, en ik denk dat we bijvoorbeeld veel vooruitgang kunnen boeken in het optimaliseren van besluitvormingsprocessen.

Maar er zijn ook veel lastige kwesties. Huidige trends in AI zijn zeer data hungry. Omdat privacy in deze sector van cruciaal belang is, verwacht ik dat AI-modellen in de financiële sector vooral zullen draaien om algoritmische oplossingen, en geen data-intensieve benaderingen. En bij 'data-intensief' bedoel ik het proces van gegevensverzameling.

De onderzoeksgemeenschap probeert over het algemeen graag nieuwe methoden uit. Maar de meest recente AI-modellen hebben de reputatie 'black boxes' te zijn, omdat het momenteel onmogelijk is om te ontcijferen hoe ze tot hun resultaten komen. Dit is absoluut niet acceptabel als we het hebben over de beslissing om iemand beschuldigen van fraude. Dus ik verwacht ook dat de financiële AI-gemeenschap een belangrijke rol zal spelen bij het bevorderen van uitlegbare AI. Dat streven we zeker na in ons Lab.”