Vijf Jaar Ethisch Kader: tijd voor een update!

Jos Schaffers, grondlegger van het kader, gaat meteen in op een belangrijke wijziging, namelijk de definitie van een datagedreven toepassing: “Het Ethisch Kader geldt niet alleen voor AI, maar ook voor volledig geautomatiseerde toepassingen (AI-systemen). Plus alle eenvoudigere toepassingen met impact op het klantvertrouwen, mits gebruikt in de kernprocessen van de verzekeraar. Denk aan het gebruik van externe data om de kredietwaardigheid of betrouwbaarheid van nieuwe klanten in te schatten. Dit zijn dus ook de toepassingen waar je als mens nog invloed op hebt,” legt hij uit. “Het maakt namelijk nogal uit wat het systeem aan een medewerker voorlegt, het kennisniveau van die werknemer en bijvoorbeeld hoeveel tijd hij of zij heeft voor een bepaalde afweging: allemaal zaken die reflectie verdienen,” benadrukt Schaffers. Mocht je twijfelen of jouw bedrijf of systeem onder het kader valt? “Loop dan vooral door de korte beslisboom die we hiervoor speciaal hebben gemaakt,” adviseert hij.

Maak een lijst met alle toepassingen

Een andere belangrijke stap is het maken van een lijst met alle datagedreven toepassingen die je gebruikt. Schaffers: “Ook om erachter te komen of je (nog) AI-systemen toepast die bijvoorbeeld sinds februari 2025 onder de AI-Act verboden zijn. Die kans is misschien niet heel groot, maar better safe than sorry.” Voor het Ethisch Kader moet je trouwens ook zo’n lijst opstellen (norm 23 van de in totaal 28 normen).

Keuzes

“Kijk ook goed naar de keuzes die je maakt bij het inrichten van de kernprocessen van verzekeraars: de schadebehandeling (wel/niet uitkeren, het vaststellen van de hoogte van de schade, fraudedetectie), premiebepaling en acceptatie. Hoewel hier vaak nog allerlei menselijke besluitvorming een rol speelt, naast de techniek, is het belangrijk er voor te zorgen dat de mens over de juiste informatie beschikt om diens controlerende rol waar te maken. Denk daarbij bijvoorbeeld aan de keuze welke claims je naar de veiligheidsafdeling stuurt en welke informatie medewerkers daarbij krijgen? Krijgt een werknemer dagelijks tien vermoedelijke fraudedossiers op zijn bureau, dan is de kans groot dat hij na een maand denkt dat elke zaak frauduleus is.” Als je daarentegen af en toe dossiers toevoegt met een lagere kans op fraude, dan beperk je de kans op ‘automation bias’. Het is dus belangrijk om bij de inrichting van dit soort processen ook willekeurige dossiers toe te voegen aan de stapel die naar veiligheidszaken gaat.

Drift en bias

Ook is alertheid op ander vormen van bias van belang: bevat data ongewenste vooroordelen die jouw model oppikt en gaat versterken? Schaffers: “Zeker bij zelflerende systemen of veranderingen in de input-data (omdat de werkelijkheid verandert) is het belangrijk om uitkomsten te blijven monitoren: doet het systeem nog altijd wat je van tevoren hebt bedacht?”

Gelukkig staat een groot deel van de normen uit het kader ook al in DPIA’s (een instrument om vooraf de privacyrisico's van gegevensverwerking in kaart te brengen) en in de PARP (het productgoedkeuringsproces). “Maar het is altijd goed om met enige regelmaat naar de klantreis te kijken,” adviseert hij. “Zijn er stappen die nog aandacht verdienen?” En last but not least: probeer je ethische reflectie vast te leggen: welke keuzes heb je gemaakt, welke risico’s heb je daarbij meegewogen? Dat helpt je bij de toetsing, van hoe jij het kader toepast, door de Stichting toetsing verzekeraars (Stv).”

Het Ethisch Kader datagedreven toepassingen vind je hier. Je vindt daar ook een uitgebreidere toelichting en diverse andere hulpmiddelen.