Tegelijkertijd is er ook altijd die kritische stem in me die zich afvraagt of daarmee het juiste doel wordt bereikt. Alle schandalen rondom ‘Facebook’ en steeds meer aandacht voor ‘eerlijke algoritmen’, bevestigen dit onderbuikgevoel. Het woord dat voor mij het beste past in deze context is ‘bewustwording’.
Binnen de financiële sector wordt momenteel ingezet op ‘nieuwe’ technieken (lees AI/ machine learning) om risico’s in meer detail en precisie te analyseren. Het risico bestaat dat verkeerde keuzes worden gemaakt doordat modellen als een ‘black box’ fungeren. Het maken van weloverwogen (model)keuzes en het verschaffen van inzicht blijft in mijn optiek ‘mensenwerk’. In het magazine ‘De Actuaris’ van februari van dit jaar, magazine 3 jaargang 26, las ik het interessante interview met professor Eric Postma met als titel ‘AI wordt niet superieur aan de mens’. Hierin maakt hij duidelijk onderscheid in de kwaliteiten van de mens ten opzichte van de computer. Een computer kan door de mens getraind worden om vaardigheden te leren zoals het herkennen van specifieke patronen. De computer mist echter de intelligentie om uitkomsten te interpreteren, in context te plaatsen en er conclusies aan te verbinden. De kracht zit in het bundelen van deze twee.
Het trekken van de juiste conclusies en het maken van keuzes op basis van algoritmes, is alleen mogelijk als ook de beperkingen worden doorgrond.
Het begrijpen van de input – output relatie van een ‘intelligent’ systeem is hierbij van essentieel belang. Het trekken van de juiste conclusies en het maken van keuzes op basis van algoritmes, is alleen mogelijk als ook de beperkingen worden doorgrond. Inzicht in de beperkingen biedt de mogelijkheid voor het verbeteren van modellen; bijvoorbeeld door verrijking met extra data. Een belangrijke vraag die gesteld moet worden gaat over de gebruikte data en vergt inzicht in de betekenis van deze data. Onder welke omstandigheden is de data tot stand gekomen en is deze wel representatief voor de te maken voorspelling?
Een typisch voorbeeld is de laatste presidentverkiezingen in Amerika. Geen enkele verkiezingspoll wees in eerste instantie op een overwinning van Trump. Is hierbij te veel gewicht gegeven aan het gebruikelijke kiesgedrag van de Amerikaan en te weinig rekening gehouden met de veranderende omstandigheden?
Ik zou haast zeggen neem (je) modeluitkomsten niet te serieus en trek ze in twijfel… Juist dit zal leiden tot verbeterde modellen en goed onderbouwde keuzes. Actuarieel professionals hebben binnen het eigen domein de kans zich hierin te onderscheiden!
Deze blog is geschreven op persoonlijke titel.
