Deel 1: over de definitie van deepfake en over fraud as a service.
Ze studeerde Systems Engineering and Policy Analysis aan de TU Delft. Tijdens haar studie onderzocht ze nieuwe technologieën die enerzijds fascinerend, en anderzijds schadelijk kunnen zijn voor de maatschappij. Voor individuen. En voor bedrijven en overheden. Dat leidde in 2020 tot de oprichting van DuckDuckGoose. Sindsdien ontwikkelt Parya Lotfi, mede-oprichter en CEO van het techbedrijf, met haar teamleden deepfake-detectie voor bedrijven en overheden.
Genereren én manipuleren
Bij een deepfake denk je waarschijnlijk aan gemanipuleerde videoboodschappen van bekende personen die vaak grappig bedoeld zijn. Maar volgens Lotfi is de definitie breder dan dat. “Deepfake is elke vorm van audio en visuele media die met generatieve AI is gegenereerd of gemanipuleerd”, legt ze uit. Denk aan foto’s en video’s van mensen en voorwerpen, maar ook aan documenten zoals facturen en aankoopbewijzen. Dus ook een foto bewerken als grapje voor een verjaardag of pensionering is een deepfake.
De risico’s van deepfakes
Verschillende vormen van deepfake brengen elk hun eigen risico met zich mee. Daarom is het ook voor verzekeraars belangrijk om te begrijpen welke soorten deepfakes er zijn, en waar ze impact kunnen hebben op werkprocessen zoals acceptatie, claims en klantcontact:
Fraud as a service
Maar wie gebruikt, of beter gezegd, wie misbruikt deepfake-technologie? In haar werk komt Lotfi niet alleen individuen tegen die een foto van een smartphone manipuleren zodat deze beschadigd lijkt. Ze ziet ook wat zich afspeelt op het darkweb. Daar zijn groepen criminelen, bijvoorbeeld uit Zuidoost-Azië en Zuid-Amerika, actief die zich onder andere specialiseren in identiteitsfraude. Ze vervalsen video’s of pasfoto’s en gegevens op identiteitsbewijzen waarmee ze nepprofielen creëren. Als blijkt dat ze daarmee makkelijk een bankrekening kunnen openen, bieden ze de deepfakes te koop aan. Lotfi: “Dat ze voor een paar cent te koop zijn, vind ik ongelofelijk. En werkt zo’n nepprofiel niet? Dan geven ze geld terug of leveren een nieuwe. Dit is dus fraud as a service.”
Van profielfoto tot video
Ondertussen gaat de ontwikkeling van generatieve AI verder en verder. En dat houdt Lotfti nauwlettend in de gaten. “De AI-tools waarmee je deepfakes kan maken, worden niet alleen gebruiksvriendelijker. De resultaten worden ook steeds beter.”
Ze vervolgt: “En wat er nog op ons af gaat komen? Dat zijn bijvoorbeeld non-human deepfakes en deepfakes waarbij de kwaliteit van gezichten nog beter wordt. Een van de laatste ontwikkelingen is dat je op basis van een LinkedIn-profielfoto, dus aan de hand van een single frame picture, een video kan maken. Die video is ook nog eens van goede kwaliteit. En het gaat zelfs zo ver dat zo’n bewegend beeld kan deelnemen aan een vergadering.”
Binnenkort verschijnt deel 2 van dit drieluik. Daarin deelt Lotfi praktijkvoorbeelden van deepfake-misbruik om inzicht te geven in de impact ervan op bedrijven.
De Boef de Baas 2026
Lotfi verzorgt op 26 maart een deelsessie tijdens De Boef de Baas, een event van het Verbond dat dit jaar in het teken staat van technologie en AI als wapen én tegenstander in de strijd tegen fraude en criminaliteit. Relevant voor strategen en beleidsbepalers, managers veiligheidszaken, fraude- en incidentonderzoekers, data-analisten, cybersecurity specialisten, risk officers en professionals op het terrein van digital resilience.
In 2025 is de visie Weerbaar en Waakzaam gepubliceerd over de aanpak van fraude en (cyber)criminaliteit in de verzekeringssector.
Visie Weerbaar en Waakzaam