De blinde vlek van het algoritme: Zijn we kwetsbaar geworden voor 'flash fraude'?

Door Pepijn Slappendel, Director DetACT

Herinner je je de flashcrash van 2010 nog? Binnen enkele minuten stortte de Dow Jones met bijna 10% naar beneden toen algoritmen als een kettingreactie op elkaar reageerden, om kort daarna te herstellen. Er veranderde niets fundamenteels, de algoritmen sloegen op hol. Het meest alarmerende? Het enige dat er nodig was om deze marktverstoring te veroorzaken was één persoon die het systeem begreep.

Waar ik 's nachts wakker van kan liggen, is dat ik hetzelfde patroon zie ontstaan in fraude detectie. Banken vertrouwen steeds meer op AI-algoritmen om fraude te detecteren en te voorkomen. Hoewel deze systemen goed werken om bekende patronen te herkennen, delen ze dezelfde zwakte als de algoritmen voor de aandelenmarkt: ze kunnen nieuwe en onverwachte bedreigingen missen. Vooropgesteld is dat AI-systemen krachtige hulpmiddelen blijven bij fraudepreventie; het doel is om een robuustere antifraudestrategie te implementeren die zowel bekende als onbekende bedreigingen aanpakt.

De gevaarlijke parallel

In beide scenario’s geldt dat:

• Systemen vertrouwen op historische data om voorspellingen te doen
• Algoritme-uitkomsten bieden feedback die aanvallers kunnen misbruiken
• Nieuwe aanvalsmethoden kunnen onopgemerkt blijven
• Tegen de tijd dat patronen duidelijk worden, kan er aanzienlijke schade zijn

Fraudeurs begrijpen deze zwakte. Ze passen zich voortdurend aan, zoeken grenzen op en creëren technieken die zijn ontworpen om algoritmische verdedigingen te omzeilen. Wanneer ze een gat vinden, kunnen ze nu generatieve AI gebruiken om sneller dan ooit tevoren grootschalige aanvallen uit te voeren.

Neem Bankhelpdeskfraude als een perfect voorbeeld. Bankhelpdeskfraude blijft toenemen in landen met de meest geavanceerde detectietechnologie. Waarom? Omdat deze oplichtingspraktijken volkomen legitiem lijken voor algoritmen: de betalingen worden geautoriseerd door de daadwerkelijke klant, alleen onder valse voorwendselen. Eenvoudige aanpassingen op bel-scripts kunnen voldoende zijn om AI-systemen te omzeilen die zijn getraind op eerdere patronen, tegen de tijd dat banken deze nieuwe tactieken identificeren, zijn er al aanzienlijke bedragen verloren.

De dreiging van "Flash Fraude"

Stel je dit scenario nu eens op grote schaal voor: een nieuwe fraudetechniek volgt een patroon dat AI nog niet eerder heeft gezien. Fraudeurs kunnen generatieve AI gebruiken om hun bereik te maximaliseren, gepersonaliseerde aanvallen te creëren op een schaal die voorheen onmogelijk was, allemaal gebruikmakend van dezelfde kwetsbaarheid. Voordat detectiesystemen voldoende gegevens kunnen verzamelen, patronen kunnen analyseren en tegenmaatregelen kunnen implementeren, kunnen bij meerdere banken tegelijk miljoenen buitgemaakt worden: een "Flash Fraude"-gebeurtenis.

Weerbaarheid opbouwen tegen het onbekende

De meest doeltreffende fraudepreventiestrategieën volgen een fundamenteel principe: we moeten systemen bouwen die kunnen anticiperen op het onbekende. In plaats van dit te zien als een beperking van AI, moeten we het zien als een kans om complementaire benaderingen in te zetten die zowel machine-intelligentie als menselijke inzichten benutten. Dit betekent kiezen voor een gelaagde aanpak:

• AI voor bekende patronen, flexibiliteit voor onbekende bedreigingen: vul algoritmische detectie aan met adaptieve systemen die zijn ontworpen om opkomende aanvalsvectoren te identificeren die traditionele AI mogelijk mist
• Human-in-the-loop: integreer menselijke beoordeling op basis van expertise en ervaring met geautomatiseerde systemen om zo geavanceerde tactieken te onderscheppen die puur technologische systemen niet zouden onderscheppen
• Omni-channel zichtbaarheid: monitor klantactiviteit over alle kanalen om misbruik van detectiehiaten tussen verschillende antifraudesystemen te voorkomen 
• Sessie gebaseerde onderzoeksmogelijkheden: analyseer werkelijke klantsessies voor onderzoek op basis van de feiten, om vals-positieve resultaten te verminderen en de detectienauwkeurigheid te verbeteren
• Adaptieve realtime-interventie: implementeer flexibele responsmechanismen die interventiestrategieën snel kunnen aanpassen naarmate fraudetactieken evolueren 

Deze gelaagde aanpak verbetert niet alleen fraudedetectie, het creëert ook systemische weerbaarheid tegen de potentie voor snelle, wijdverspreide 'Flash Fraud'-gebeurtenissen. De toekomst van fraudepreventie bestaat niet alleen uit betere algoritmen; het zijn slimmere systemen die AI-efficiëntie combineren met menselijk oordeel en aanpassingsvermogen. Het belangrijkste is dat het een op maat gemaakte aanpak vereist om bedreigingen aan te pakken die in de blinde vlekken van AI vallen. Door de sterke punten van AI op een doordachte manier te combineren met strategisch menselijk toezicht, kunnen we fraudepreventiesystemen creëren die krachtiger zijn dan beide benaderingen afzonderlijk zouden kunnen bereiken. Deze geïntegreerde strategie biedt niet alleen betere bescherming, maar ook een duurzamere benadering van het steeds veranderende fraudelandschap.

Hoe bereid jij je voor op de bedreigingen die nog niet bestaan?