De toepassing van kunstmatige intelligentie binnen asset management ontwikkelt zich in hoog tempo. Waar AI aanvankelijk vooral werd ingezet voor data-analyse en informatieverwerking, verschuift het gebruik steeds meer richting complexere toepassingen zoals handelsoptimalisatie, voorspellende modellen en generatieve AI.
Met asset management doelen we hierbij op organisaties zoals vermogensbeheerders, beleggingsondernemingen, fondsbeheerders en handelsplatformen. Binnen deze sector groeit de interesse in AI snel, maar volgens recent onderzoek van de AFM blijft de inrichting van governance en risicobeheersing daarbij nog achter.
Uit het rapport blijkt dat meer dan de helft van de assetmanagers AI gebruikt of dit op korte termijn van plan is. Tegelijkertijd ontbreekt het in veel organisaties nog aan specifiek AI-beleid, duidelijke verantwoordelijkheden en een ethisch kader. Volgens de toezichthouder vraagt dit om een volgende stap: van experimenteren naar structurele beheersing.
AI valt onder bestaande verplichtingen
De AFM benadrukt dat AI geen uitzonderingspositie heeft. Het gebruik ervan valt onder bestaande eisen rondom een beheerste en integere bedrijfsvoering. Dat betekent dat organisaties AI-risico’s expliciet moeten identificeren, beoordelen en beheersen, net zoals andere operationele risico’s of ICT-risico’s.
In de praktijk wordt AI nog regelmatig als een afzonderlijk innovatie-initiatief behandeld. Juist daar ontstaat risico. Naarmate AI-toepassingen meer invloed krijgen op besluitvorming, neemt ook de noodzaak toe om governance, monitoring en controle structureel in te richten.
Drie aandachtspunten uit het AFM-rapport
Het AFM-onderzoek noemt drie dominante aandachtspunten: datakwaliteit en uitlegbaarheid, governance en menselijke controle, en AI-geletterdheid binnen organisaties.
Datakwaliteit en uitlegbaarheid
De effectiviteit van AI staat of valt met de kwaliteit van data. Tegelijkertijd maakt de toenemende complexiteit van modellen het moeilijker om uitkomsten en beslissingen uit te leggen.
Volgens de AFM schuurt dit met de groeiende behoefte aan transparantie richting klanten, toezichthouders en interne stakeholders. Zeker binnen asset management, waar besluitvorming directe impact kan hebben op investeerders en markten, blijft uitlegbaarheid essentieel.
Voor organisaties betekent dit onder meer dat zij kritisch moeten kijken naar:
- de herleidbaarheid van modeluitkomsten;
- de kwaliteit en herkomst van gebruikte data;
- de mate waarin beslissingen uitlegbaar blijven richting klanten en toezichthouders.
Governance en menselijke controle
Een tweede aandachtspunt uit het rapport is governance. Veel organisaties beschikken nog niet over duidelijke afspraken rondom verantwoordelijkheden, besluitvorming en controle bij AI-toepassingen.
Daarbij speelt ook de mate van menselijke betrokkenheid een belangrijke rol. De AFM verwijst onder meer naar modellen zoals:
- human-in-the-loop: menselijke besluitvorming blijft leidend;
- human-on-the-loop: AI opereert zelfstandig onder menselijk toezicht;
- human-out-of-the-loop: AI opereert grotendeels autonoom.
Naarmate AI autonomer wordt ingezet, nemen de eisen aan monitoring, escalatie en beheersmaatregelen toe. Voor toepassingen binnen asset management ligt menselijke betrokkenheid bij investeringsbeslissingen of klantimpact voor de hand.
Ook een human-on-the-loop-inrichting vraagt duidelijke afspraken. Wanneer grijpt een organisatie in? Wie is verantwoordelijk voor afwijkende uitkomsten? En hoe wordt besluitvorming vastgelegd? Juist deze vragen blijken in de praktijk nog vaak onvoldoende uitgewerkt.
AI-geletterdheid
De introductie van AI verandert niet alleen technologie en processen, maar ook de rol van medewerkers. De Europese AI-verordening benadrukt daarom expliciet het belang van AI-geletterdheid.
Medewerkers moeten niet alleen begrijpen hoe AI werkt, maar ook:
- waar risico’s ontstaan;
- wanneer uitkomsten onbetrouwbaar kunnen zijn;
- wanneer menselijke interventie noodzakelijk is.
Volgens de AFM is dit geen ondersteunende maatregel, maar een voorwaarde voor effectieve beheersing.
Onderdeel van bredere risicobeheersing
Wat in het rapport impliciet duidelijk wordt, is dat AI geen losstaand domein vormt. De risico’s raken bestaande thema’s zoals IT, data, compliance en uitbesteding.
Daarom ligt het voor de hand om AI-risico’s te integreren in bestaande frameworks, zoals Dora en bestaande ICT-risicoanalyses. In de praktijk betekent dit bijvoorbeeld:
- AI opnemen in risico-identificatie en classificatie;
- AI meenemen in third-party risk management;
- bestaande controles uitbreiden met AI-specifieke scenario’s.
Incident management onder Dora
Een onderwerp dat volgens de AFM nog relatief weinig aandacht krijgt, is de relatie tussen AI en incident management.
Veel AI-risico’s zoals datalekken via generatieve AI, foutieve modeluitkomsten of manipulatie van data, manifesteren zich uiteindelijk als ICT-incidenten. Daarmee vallen zij binnen de scope van Dora.
Dit roept praktische vragen op:
- Wanneer geldt afwijkende AI-output als incident?
- Hoe worden AI-gerelateerde verstoringen geclassificeerd?
- Zijn bestaande escalatieprocedures toereikend?
Voor veel organisaties betekent dit dat bestaande monitoring-, classificatie- en rapportageprocessen moeten worden uitgebreid met AI-specifieke scenario’s.
Van experiment naar structurele beheersing
De huidige fase binnen de sector wordt nog sterk gekenmerkt door experimenten. De verwachtingen van toezichthouders bewegen echter steeds duidelijker richting structurele beheersing.
Organisaties die hierin stappen zetten, beginnen vaak met:
- het ontwikkelen van een eerste AI-governancekader;
- het uitvoeren van gerichte AI-risicoanalyses;
- het vergroten van AI-bewustzijn binnen de organisatie.
Kennisontwikkeling speelt daarbij een sleutelrol. Zonder voldoende begrip van AI, zowel technisch als ethisch, blijft effectieve beheersing lastig.
Tot slot
AI biedt asset managers duidelijke kansen om efficiënter en innovatiever te opereren. Tegelijkertijd benadrukt de AFM dat deze ontwikkeling gepaard moet gaan met volwassen governance en risicobeheersing.
De organisaties die AI tijdig integreren in bestaande governance- en risicokaders, zijn niet alleen beter voorbereid op toezicht, maar bouwen ook duurzamer vertrouwen op richting klanten en stakeholders.
Stefan Minnaar is IT compliance consultant bij Projective Group. Projective Group is deel van het expertpanel van Investment Officer.
