Professor Caspar Chorus wil AI begrijpelijk maken

De kracht van neurale netwerken is dat computers tussen heel veel datapunten allerlei verbanden proberen te leggen, waar wij als mensen nooit aan zouden denken. En ze vinden die verbanden. Of dat dan causale verbanden, of enkel correlerende variabelen zijn: dat is niet de zorg van het slimme algoritme. Daarom pleitte prof. dr. ir. Caspar Chorus op het Jaarevent van het Verbond onlangs voor grote waakzaamheid bij de inzet van neurale netwerken voor automatische besluitvorming.

In de analysefase kunnen die neurale netwerken van grote waarde zijn: ze leggen soms verbanden bloot, waar dankbaar gebruik van kan worden gemaakt. Maar ga je die neurale netwerken gebruiken om er ook besluitvorming op te baseren: dan wordt het gevaarlijk, zeker als het gaat om besluiten met een flinke impact op mensen.

Geen algoritme voor besluitvorming

Zo was er een algoritme dat heel goed foto’s van husky’s van andere hondenrassen kon onderscheiden. Het duurde jaren voordat iemand er achter kwam dat het algoritme iedere hond in de sneeuw als husky classificeerde. Dat blijkt dus in verreweg de meeste gevallen een goede voorspelling te zijn. Op dit soort beslisregels wil je echter geen besluiten baseren waar mensen van afhankelijk zijn: wel of niet toegelaten worden als asielzoeker, wel of geen premieverhoging na een schade. Natuurlijk wordt er gewerkt aan het begrijpelijker maken van algoritmen, maar volgens Chorus zal dat per definitie nooit in voldoende mate lukken. De onbegrijpelijkheid is namelijk geen foutje, maar een feature van machinelearning.

Discrete keuze analyse

“Problemen, problemen, maar ik heb ook een oplossing!” aldus Chorus, halverwege zijn betoog. Want de wetenschapper is sinds kort ook ondernemer. Chorus maakt hierbij gebruik van een theorie uit zijn vakgebied, de econometrie: discrete keuze analyse. Het bedrijf van Chorus legt domeinexperts op een aantal van de te maken automatische beslissingen scenario’s voor, met de vraag een beredeneerde keuze te maken. Door in die scenario’s steeds kleine verschillen te maken in de onderliggende variabelen, kan geschat worden welk gewicht de experts toekennen aan de verschillende factoren. Wat zou er volgens de deskundigen moeten gebeuren met de premie van een klant, als iemand in het voorgaande jaar schade heeft gehad, al zes jaar klant is, maar nog geen andere producten heeft lopen? Of hoe valt de verhouding tussen rijgedrag, kilometrage, autogewicht en postcode uit? Dit resulteert in een formule voor hoe de afzonderlijke factoren meewegen in een bepaald besluit, aan de hand waarvan de klant desgevraagd uitgelegd kan worden waarom het besluit uitvalt zoals het doet. De neurale netwerken kunnen ingezet worden om te komen tot nuttige en interessante verbanden, maar pas na ‘weging’ door de experts worden deze gebruikt in de besluitvorming: op die manier combineert deze methode de kracht van de AI met de begrijpelijkheid gegeven door domein experts.

Op dit moment test het bedrijf in oprichting van Chorus, Councyl, de methode in verschillende sectoren van het bedrijfsleven. Ook verzekeraars kunnen hieraan meewerken. Het Verbond brengt succesvolle usecases graag onder de aandacht bij een volgend jaarevent in 2021.

Meer informatie

Bekijk de presentatie 'AI Technologies for the insurance sector'.