1. Jullie hebben een onderzoek gedaan naar fraude bij autoschade met AI-gegenereerde nepbeelden. Waarom?
"Het simpele antwoord is: omdat het een superinteressant onderwerp is. Veel partijen zijn vooral bezig met de positieve kant van AI, maar er kleven natuurlijk ook risico's aan. AI kan bijvoorbeeld worden gebruikt om te frauderen, bijvoorbeeld door een nepschade bij een verzekeraar in te dienen. Tegelijkertijd wilden we met ons onderzoek aantonen dat zulke nepschades veel moeilijker zijn te herkennen dan je in eerste instantie denkt."
2. Is dat ook een van de belangrijkste uitkomsten van jullie onderzoek: dat nepschaden zo lastig zijn te herkennen?
"De belangrijkste uitkomst is wat mij betreft dat het aan de ene kant heel eenvoudig is om een nepbeeld van een autoschade te maken, terwijl het aan de andere kant erg moeilijk is om zo'n beeld te herkennen. Wij hebben ons onderzoek vooral gericht op het herkennen van nepschades bij een claim, maar het omgekeerde kan natuurlijk ook voorkomen. Een fraudeur kan een auto met fikse schade 'even' als nieuw laten lijken, vervolgens een all risk dekking aanvragen en later alsnog de schade claimen. Misschien is dat acceptatierisico in de Nederlandse markt nog wel een groter risico. In ieder geval benadrukken wij altijd dat verzekeraars (en andere fraudeopsporingsinstanties) een compleet framework moeten inrichten. Dat bestaat niet alleen uit transparante processen, maar ook uit de juiste tooling. Eén tooltje herkent namelijk niet alles, zoals ook is gebleken uit het onderzoek. Bovendien is en blijft AI een hulpmiddel. Je kunt er met andere woorden niet blind op vertrouwen. Mooi voorbeeld is een foto van een kapotte zijspiegel van een auto. In de weerspiegeling zie je dat die spiegel nog gewoon heel is. Voor een mens is dat relatief eenvoudig te zien, voor AI-tooling is dat mogelijk lastiger. Dat geldt overigens voor meer dingen: sommige signalen herkennen mensen makkelijk, terwijl AI-tooling daar juist meer moeite mee heeft. Andersom kan AI sommige patronen herkennen die wij als mensen niet zien. Het is dus vooral de combinatie die het verschil maakt."
Zomerserie!
AI is hot. Verzekeraars zijn volop aan het experimenteren met allerlei vormen van AI. Maar, dat doen hun klanten ook. Bijvoorbeeld bij het indienen van een schadeclaim. Consultants van Milliman hebben fraude bij autoschades met AI-gegenereerde nepbeelden onderzocht. Hun conclusie? Het maken van zulke beelden is "heel eenvoudig".
In dit eerste deel van onze zomerserie over AI: een vloek of een zegen gaat Niels van der Laan, Partner bij Milliman Benelux en spreker tijdens de Verenigingsdag van het Verbond van Verzekeraars, in op de belangrijkste uitkomsten van het onderzoek. Daarnaast geeft hij tips om fraude met AI te voorkomen.
3. Jullie hebben in het onderzoek onderscheid gemaakt tussen jonge en oude(re) mensen en ook tussen mensen met veel of weinig/geen ervaring met AI en fraudeopsporing. Levert dat nog grote verschillen op?
"Nee, wij hebben geen significante verschillen gezien in hoe goed of slecht mensen de quiz maakten. Alle deelnemers hebben twintig beelden te zien gekregen en moesten aangeven welke nep en welke echt waren. Je moet dan denken aan beelden van een lekke band, hagelschade en een kapotte bumper tot aanrijdingsschade en een kapotte spiegel. De gemiddelde score (van goede antwoorden) komt uit op 46 procent. Dat is zelfs nog lager dan je op basis van gokken (50-50) mag verwachten."
4. 'Menselijke detectie schiet tekort', concluderen jullie dan ook in het onderzoeksrapport. Wat bedoelen jullie daarmee? AI moet worden ingezet om fraude met AI te bestrijden?
"Dat kunnen fraudeonderzoekers zeker doen, maar dan wel additioneel. Net zoals wij benadrukken dat je niet sec op één tooltje kunt vertrouwen, heb je de mens ook nog nodig om fraude op te sporen. Sterker nog, de rol van de mens blijft essentieel. Als jij aan ChatGPT een vraag stelt, moet je altijd nog even checken of het antwoord klopt. Je moet dus bewust blijven nadenken. Dat raad ik hier, bij het complete fraudeproces, ook aan. The human in the loop is essentieel. AI heeft zeker een meerwaarde, maar de mens moet zich altijd bewust zijn van de risico's en de uiteindelijke besluiten nemen."
5. Fraude met autoverzekeringen is hopelijk nog beperkt, omdat een verzekerde vaak naar een specifieke garage wordt doorverwezen door zijn verzekeraar. Hoe zit dat met bijvoorbeeld reis- en inboedelverzekeraars? Hoe kunnen zij zich wapenen tegen AI-fraude?
"Bij reis- en woonverzekeraars is de keten inderdaad anders. Soms is bij een schademelding het uploaden van een foto of een bonnetje al voldoende. Dan is een nepbeeld niet alleen makkelijk te genereren, maar ook eenvoudig te gebruiken in het proces. Verzekeraars kunnen een AI-agent trainen om dergelijke nepbeelden zo goed mogelijk te herkennen. Ook kunnen ze bestaande tools aanschaffen. Er kan al heel veel, maar verzekeraars moeten vooral bewust nadenken over hun processen. Deze nieuwe vorm van fraude is er. De vraag is: hoe richt je je processen zodanig in dat de kans op fraude zo klein mogelijk wordt? Dat kan soms heel eenvoudig zijn. Vraag bij een schade bijvoorbeeld om een filmpje. Via Telematics kun je tegenwoordig zelfs (met data van de auto) uitlezen hoe een schade is ontstaan. Ook kun je een app creëren waarmee verzekerden real time een foto moeten maken. Zo zijn er veel tools en trucs om het risico kleiner te maken, maar de belangrijkste boodschap is: het risico is er, wees je daarvan bewust en denk na hoe je de keten (opnieuw) inricht."
Foto Niels van der Laan: Ivar Pel