Niemand praat graag over de implementaties die mis gingen. Bram Declercq wel — omdat hij degene was die het probleem uiteindelijk vond, na zeven maanden.
De situatie in het kort
Een kredietverstrekker in Antwerpen had een predictief model ingezet om wanbetalingsrisico in te schatten. Het model draaide. De dashboards zagen er goed uit. En toch klopte er iets niet in de uitstroom van dossiers.
Bram werkte als risicoanalist en had de gewoonte om outputs handmatig te vergelijken met historische beslissingen. Niet omdat het zijn taak was — maar omdat hij het systeem simpelweg niet volledig vertrouwde zonder die check.
Wat er precies misging
Het model was getraind op data van voor een renteverhoging. Na die verhoging veranderde het gedrag van een specifieke klantgroep, maar het model had geen mechanisme om dat op te merken. Het bleef voorspellen op basis van patronen die niet langer geldig waren.
De technische term is concept drift. Het niet-technische gevolg was dat risicovolle dossiers te laag werden ingeschat gedurende een kwartaal.
Wat dit leert over implementatie
Een AI-model is geen eindpunt. Het is een hypothese die blijft lopen. Je hebt een monitoringprotocol nodig dat niet alleen kijkt of het model draait, maar of het nog steeds klopt met de werkelijkheid.
Bram stelde uiteindelijk een eenvoudige maandelijkse vergelijking voor: voorspelde uitkomst versus werkelijke uitkomst, per klantcategorie. Vijftien minuten werk. Het had het probleem drie maanden eerder opgespoord.
Soms is de meest waardevolle vaardigheid in AI-implementatie niet het bouwen van het model, maar het bedenken van wanneer je het moet wantrouwen.