Deepfake en fraude: misbruik van AI aanpakken met AI

Deel 3: over hoe verzekeraars deepfake-fraude kunnen aanpakken.

In het eerste en tweede artikel van dit drieluik benadrukte Lotfi dat verzekeraars zich bewust moeten zijn van de grote schaal waarop foto’s, video’s en documenten worden gemanipuleerd én verhandeld. “Fraude heeft natuurlijk altijd al bestaan, maar fraude met deepfake-technologie is van een andere orde. Ten eerste wordt de techniek steeds toegankelijker. En het is snel op te schalen, iets wat op het darkweb al gaande is. Het verschuift hiermee van individuele incidenten naar grootschalige en herhaalbare aanvallen waarbij dezelfde technieken gelijktijdig bij meerdere organisaties worden ingezet.”

Impact van deepfake-fraude

Lotfi vindt het nog lastig om de exacte gevolgen van dit soort fraude op de langere termijn in te schatten. Maar het zal volgens de AI-expert veel groter zijn dan alleen onterechte uitkeringen. “Denk ook aan de psychologische impact op medewerkers. Want wat doet het met mensen als zij het verschil tussen echt en nep niet meer kunnen zien? Hoe tast dat hun vertrouwen aan, in zichzelf en in collega’s en klanten? En hoe blijven mensen en processen efficiënt als het volume toeneemt? Voor verzekeraars kan dit betekenen dat traditionele controles onder druk komen te staan.”

AI aanpakken met AI

Als AI in staat is om overtuigende valse beelden, documenten en stemmen te genereren, dan vraagt dat om een tegenkracht die minstens zo schaalbaar en slim is. Niet om fraudeurs na te doen, maar om hun technieken te begrijpen en te doorgronden. Het uitgangspunt van Lotfi en haar collega’s is daarom: to catch a thief, you need to be a thief yourself. “Alles wat door generatieve AI is gemaakt, heeft een soort AI-DNA in zich. En dát kan met behulp van AI worden herkend. Dus dat betekent dat fraude met AI ook is te bestrijden met AI.”

Samenspel AI en mens

Maar technologie alleen is niet genoeg. Effectieve bescherming ontstaat pas als detectie vroeg in processen wordt geïntegreerd, en wordt gecombineerd met duidelijke werkafspraken en menselijke beoordeling. Dat betekent niet dat medewerkers deepfakes moeten leren spotten. Dat wordt simpelweg onhaalbaar. Belangrijker is dat medewerkers leren wanneer extra verificatie nodig is. En hoe zij signalen van systemen kunnen meenemen in hun besluitvorming.

Lotfi: “Train medewerkers dus in bewustwording, risicodenken en in de samenwerking met bijvoorbeeld detectiesystemen. De toekomst is een samenspel waarin AI signalen en duiding geeft. En waarin medewerkers leren hoe ze dat vertalen naar goed onderbouwde besluiten en acties. En omdat de ontwikkeling zo hard gaat, is continue training meer dan ooit nodig”, besluit ze.