“Het is een illusie dat AI-systemen niet discrimineren”

De wereld van artificiële intelligentie beweegt razendsnel – en de verzekeringsbranche beweegt mee. Maar hoe benutten we de kansen van AI zonder de menselijke maat te verliezen? Hoe combineren we innovatiekracht met verantwoordelijkheid? We spreken erover met Noëlle Cicilia, medeoprichtster van het Amsterdamse bedrijf Brush AI en Dennie van den Biggelaar van Onesurance. Samen verzorgden ze een datasessie tijdens de Data Dag 2025 bij het Verbond op 2 oktober.

In jullie keynote staat centraal dat ethiek een onderdeel moet zijn van de data science lifecycle. Hebben jullie hier een voorbeeld van en waarom is het zo belangrijk?

Noelle: “Dennie en ik hebben samengewerkt aan een hele leuke case voor Dazure. Wat ik heel leuk vind, is dat responsible AI een enabler is geweest bij dit project. We hebben voor het maken van de AI-oplossing heel erg nagedacht over de risico’s waardoor we tot een mooie oplossing zijn gekomen die anders niet had gekund. We hebben veel weerstand bij de werknemers, verzekeraars, tussenpersonen en medische experts/acceptanten weggenomen door heel goed over dingen na te denken.” Dennie beaamt dit. “Algoritmes worden steeds belangrijker, maar hebben geen moreel kompas. Het is belangrijk om de zogenaamde data science lifecycle te volgen, maar daarnaast nog een ethische lifecycle toe te voegen. Eigenlijk zou iedereen volgens zo’n proces moeten nadenken wat er mis kan gaan. Het is ook voor verzekeraars belangrijk; juist als je nadenkt over ethiek, krijg je veel wél voor elkaar.”

Noelle geeft aan dat het bij AI niet alles of niets is. “Het is niet het een of het ander. Niet aan de ene kant niets doen of juist kiezen voor een soort Elon Musk-achtige aanpak waarbij je heel veel risico’s neemt. Er is absoluut een middenweg, halfautomatisering, waarbij AI als buddy van de mens optreedt in plaats van als vervanger.” Dennie: “Ethiek is iets heel subjectiefs. Het is wel wetenschap, maar geen harde wetenschap. Bij Onesurance zijn wij daarom blij dat het Verbond een ethisch kader presenteert waarmee je direct aan de slag kan. Het is ook goed werkbaar bij het ontwerpen, bouwen en implementeren van een AI-oplossing: als je vanuit de business start en daar het ethisch kader oplegt, is het direct praktisch én een duurzame oplossing.” Noëlle: “Het is belangrijk dat je alle stakeholders meekrijgt en al voor de ontwikkeling rekening houdt met zaken als compliance en de personen op wie zo’n systeem invloed heeft. In de case van Dazure zijn dat bijvoorbeeld mensen die een verzekering aanvragen. Het is essentieel om de ‘ethische analyse’ daarom aan het begin te doen.”

Discriminatie door kunstmatige intelligentie is zorg. Hoe voorkom je dat?

Noelle: “Een AI-systeem dat niet discrimineert is een illusie. Evenals een mens die niet discrimineert. Wat ik altijd heel erg lastig vind is dat mensen doen alsof AI-systemen niet kunnen discrimineren. Wat je wel moet doen is op de hoogte zijn van waar die discriminatie plaatsvindt en voor welke groep het AI-systeem dus niet zo goed werkt. Kies er bij deze groep dan voor om een en ander volledig handmatig te doen.” De Brush-oprichtster vindt het belangrijk om op te merken dat er altijd sprake kan zijn van benadeling. “Een AI-systeem is een reflectie van onze wereld. Ongelijkheden worden hierdoor expliciet gemaakt en vaak vinden mensen dat confronterend. Als verzekeraar kun je actief monitoren waar de differentiatie in je systeem plaatsvindt en daarop inspelen. Kortom, je moet de ongelijke behandeling begrijpen in plaats van denken dat het er niet is.”

Dennie voegt hieraan toe dat het maken van onderscheid tussen klanten wezenlijk en geaccepteerd is binnen de verzekeringswereld: “Je vraag iemand die rookt bij de acceptatie van een levensverzekering een andere premie. Dit wordt door iedereen geaccepteerd, omdat het te maken heeft met gedrag. Bij overgewicht is het al lastiger omdat het dan ook de vraag is of een persoon er iets aan kan doen. Het is dan onze taak om bij het bouwen en implementeren van een algoritme aan de eindverantwoordelijke/opdachtgever duidelijk te maken welke onderscheidende kenmerken worden opgenomen in het systeem, bijvoorbeeld overgewicht, wel of niet roken en postcodegebied. Kortom, we stellen de eindverantwoordelijke van het AI-model in staat om wel of niet akkoord te geven op bepaalde punten van differentiatie.” Noelle benadrukt dat AI-systemen altijd onderdeel zijn van een groter proces waar mensen aan te pas komen. “Kies er dan ook voor om de ‘eindbeslissing’ door mensen te laten maken. Dit is ook een manier om de werkwijze eerlijker te laten verlopen.”

Over werkwijzen gesproken. Bij Brush kiezen jullie voor het ‘spotten van kansen met AI’ via een hackathon bij bedrijven als verzekeraars. Wat is het voordeel hiervan ten opzichte van andere methodes?

Noëlle: “Wat je vaak ziet, is dat verzekeraars zeggen: ‘We willen iets met AI maar we weten niet precies wat’. Een hackathon heeft daarbij de functie van het in kaart brengen van de ideeën. Wat ik het leukste vind, is als we klanten hebben die denken dat iets niet kan en we dan kunnen laten zien dat het wel kan.”
Hoewel ze vindt dat verzekeraars het best klein met AI kunnen beginnen, waarschuwt ze ervoor dat het te vaak gaat over (te) laaghangend fruit. “Regelmatig levert dat namelijk niet zoveel op. Onderzoek hoe je belangrijke bedrijfsprocessen kunt automatiseren. Hier haal je op lange termijn veel meer waarde uit dan uit een chatbot. Belangrijk hierbij is wel om dit in kleine stappen te doen en strak te blijven evalueren.”
Dennie beaamt dit. “In de praktijk moet je goed kijken: wat is je strategie voor je onderneming en bij welk core- of niet-coreproces kan AI helpen. Denk er vervolgens over na hoe je het wil vormgeven; in eigen beheer of via een leverancier. Maak dan een tweedimensionale as: wat is de effort die je erin steekt en wat het levert het op korte en lange termijn op. Op basis daarvan kun je verder.”

Jullie benadrukken ook het belang van AI-geletterdheid. Hoe kunnen verzekeraars dat faciliteren bij hun medewerkers? Cursussen, bijscholing? Of zijn er andere (betere) methodes?

Noëlle: “AI-geletterdheid is sowieso opgelegd vanuit de AI-act. Als je medewerkers met AI werken, ben je verplicht ze op te leiden. Concreet betekent dit dat ze op de hoogte zijn van de kansen en beperkingen van kunstmatige intelligentie. Ook is het belangrijk dat je als werknemer begrijpt waar je AI wel en niet voor in kan zetten. Cursussen zijn hiervoor een goede methode.”

De Brush-oprichtster hoopt dat AI eenzelfde ontwikkeling gaat doormaken als cybersecurity. “Je hebt hierbij een breed spectrum aan kennisniveaus. Aan de ene kant heb je de expert, maar zelfs mijn oma is zich nu bewust van het gevaar van ‘vage’ sms’jes. Ik hoop dat zoiets zich ook gaat ontwikkelen voor AI. Dat iedereen op een bepaalde manier op de hoogte is van de risico’s ervan.” Bij het inschatten van de gevaren, is het volgens haar essentieel om de context mee te nemen. “Het door AI laten herschrijven van een mail is een stuk minder risicovol dan je content op social media volledig te automatiseren.”

Dennie zou als verzekeraar een apart orgaan opzetten voor AI. “Deze afdeling moet ervoor zorgen dat nieuwe voorbeelden die opgepikt worden centraal worden getrokken zodat de hele organisatie ervan leert. Nu zie je dat vaak veel gefragmenteerd gebeurt.” Noëlle beaamt dat. “Veel werknemers gaan op eigen houtje tools uitproberen. Soms kiezen organisaties ervoor om geen ChatGPT te gebruiken, maar dan doen medewerkers het wel op hun telefoon. Het is lastig om er grip op te krijgen.”

Wat voor adviezen hebben jullie tot slot voor data scientists bij verzekeraars?

Noelle: “Wat ik belangrijk vind is dat het voor jou als data scientist duidelijk moet zijn dat het jouw verantwoordelijkheid is dat het veilig is. Zie het als iets positiefs: het is superuitdagend om systemen te bouwen die hierdoor een extra dimensie krijgen.” Dennie: “De meeste data scientists willen graag een ethisch verantwoorde AI oplossing bouwen, maar lopen in de praktijk aan tegen het wollige. Vraag daarom concreet aan je directie wat de ethische kaders zijn óf gebruik het kader van Verbond van Verzekeraars. Vertaal deze principes naar iets technisch, dan wordt het direct concreet.”

De toekomst ziet Van den Biggelaar tot slot positief tegemoet. "AI is een slimmere manier van automatisering en we zijn nu zover dat een AI-- systeem veel zaken uit handen kan nemen. Het is niet tegen te houden; innovaties kun je niet stoppen. Wat heel belangrijk is; leid het in goede banen. Houd de wereld leefbaar en vergeet niet de mens constant mee te nemen in je AI-projecten. Neem het dus serieus op het gebied van impact op de business en op het gebied van ethiek. Ethiek staat namelijk niet haaks op geld of innovatie.”