De controle behouden wanneer systemen zelfstandig kunnen handelen

Kunstmatige intelligentie is nu al aanwezig in de bedrijven waarin beleggers beleggen, de vermogensbeheerders die zij selecteren, de researchtools die zij gebruiken en de operationele processen die beleggingsbeslissingen ondersteunen. De eerste zichtbare golf van generatieve AI draaide grotendeels om persoonlijke productiviteit: opstellen, samenvatten, vertalen, programmeren en vragen beantwoorden.

Met de evolutie van generatieve AI naar agentic AI verandert de discussie, omdat laatstgenoemde processen met meerdere stappen kan ondersteunen. Het kan informatie verzamelen, bronnen vergelijken, tools gebruiken, de context behouden, resultaten doorsturen en teams helpen om actie te ondernemen op basis van vastgestelde doelstellingen. Dat creëert kansen: een bredere researchdekking, snellere scenarioanalyse, nauwkeurigere monitoring, betere documentatie en minder repetitieve voorbereidingswerkzaamheden.

Maar ook de governancekwestie verandert. Wanneer AI voor één enkele taak wordt gebruikt, is de belangrijkste zorg of de output nauwkeurig genoeg is voor die taak. Wanneer AI onderdeel wordt van een workflow, wordt de vraag breder: wat beïnvloedt het systeem, op welke data heeft het betrekking, welke acties mag het ondersteunen, en wie blijft verantwoordelijk als er iets misgaat? In plaats van AI simpelweg te vermijden, is het juiste antwoord om voorwaarden vast te stellen waarbinnen het veilig, verantwoord en effectief kan worden gebruikt.

De meeste AI-risico’s binnen een beleggingsinstelling kunnen worden ingedeeld in vier praktische categorieën. Het zijn bekende governancerisico’s in een snellere vorm:

Een bruikbaar toezichtskader kan worden opgebouwd rond vier samenhangende vragen. De norm moet strenger worden naarmate de gevolgen van de AI-ondersteunde actie groter zijn; interne samenvattingen vereisen bijvoorbeeld niet hetzelfde niveau van controle als beleggingsaanbevelingen, managerselectie of communicatie richting klanten.

1. Onderbouwing: waar komt het antwoord vandaan?
Bij onderbouwing wordt nagegaan of AI-ondersteunde output is gebaseerd op echte, controleerbare bronmaterialen in plaats van op vloeiend giswerk.

Voor een taak met beperkte gevolgen kan onderbouwing betekenen dat bronnen worden vermeld en steekproefsgewijs wordt gecontroleerd. Voor een taak met grotere gevolgen moeten belangrijke beweringen herleidbaar zijn tot originele documenten of goedgekeurde databronnen. Een zelfverzekerd antwoord zonder herleidbaar bewijs mag geen invloed hebben op een beslissing met grote gevolgen.

2. Stabiliteit: houdt het stand als aannames veranderen?
Stabiliteit houdt in dat wordt nagegaan of de output redelijk blijft wanneer de inputs of het kader veranderen.

Blijft de conclusie hetzelfde bij een andere tijdsperiode, kostenaanname, referentiegroep, scenario of formulering van de prompt? Als een antwoord volledig omslaat bij kleine wijzigingen, is het mogelijk te fragiel om op te vertrouwen, ook al klinkt het overtuigend. Voor beleggingsprocessen betekent stabiliteit niet dat onzekerheid wordt uitgesloten. Dit houdt in dat kwetsbaarheden zichtbaar moeten worden gemaakt voordat de output wordt opgeschaald.

3. Toegangsrechten: wat mag het systeem doen?
Bij het toekennen van toegangsrechten wordt nagegaan waartoe het AI-systeem bevoegd is – wat het mag openen, genereren of activeren – en in welke gevallen menselijke goedkeuring vereist is.

Het is mogelijk dat dezelfde tool interne documenten mag samenvatten en een aanbeveling ter beoordeling door een medewerker mag opstellen, maar dat het nooit is toegestaan om externe communicatie te verzenden, een portefeuille te wijzigen, toegang te krijgen tot vertrouwelijke gegevens of zonder goedkeuring een transactiegerelateerde actie in gang te zetten. Deze regels moeten worden vastgelegd, periodiek worden beoordeeld en waar mogelijk in het systeem worden ingebouwd via toegangsrechten, workflowontwerp en goedkeuringspunten.

4. Verantwoordelijkheid: wie is eigenaar en geeft de eindgoedkeuring?
Onderbouwing, stabiliteit en beheer van toegangsrechten helpen risico’s te verkleinen, maar nemen de noodzaak van menselijke verantwoordelijkheid niet weg.

Naarmate AI krachtiger wordt, moeten beleggers weten wie eigenaar is van elk AI-ondersteund proces: wie de usecase heeft goedgekeurd, wie de output heeft beoordeeld, wie de eindgoedkeuring heeft gegeven, welke gegevens zijn vastgelegd en wat er gebeurt als het systeem een fout produceert.

Hoe groter de gevolgen van het gebruik, hoe duidelijker de bewijsketen moet zijn. Een latere beoordelaar moet kunnen reconstrueren waarvoor AI is gebruikt, wat het heeft geproduceerd, welke bronnen zijn gebruikt, welke menselijke beoordeling heeft plaatsgevonden en welke beslissing daarop volgde. Deze bewijsketen is belangrijk voor beleggingsdiscipline, vertrouwen van cliënten, interne controles en verdedigbaarheid richting toezichthouders. Het helpt ook om ruwe modeloutput te scheiden van door het bedrijf goedgekeurde beleggingsanalyses.

Onafhankelijke beoordeling is hierbij essentieel: een AI-ondersteunde workflow mag niet uitsluitend worden geëvalueerd door het systeem zelf te vragen of het goed heeft gepresteerd. Voor toepassingen met grote gevolgen hebben bedrijven onafhankelijke controles nodig of de output onderbouwd, stabiel, geautoriseerd en bruikbaar was. In de praktijk betekent dit dat de workflow die het resultaat produceert, wordt gescheiden van het proces dat het beoordeelt, zoals aangegeven in figuur 2.

De realistische nabije model wordt gekenmerkt door gecontroleerde samenwerking tussen mens en AI. AI kan voorbereiden, samenvatten, scannen, vergelijken, monitoren, schrijven en escaleren. Mensen definiëren de doelstelling, interpreteren het bewijsmateriaal, keuren de materiële output goed en blijven verantwoordelijk voor de allocatie van kapitaal, resultaten voor klanten en de fiduciaire verantwoordelijkheid. Met andere woorden, de meest nuttige vroege toepassingen van agentic AI zijn mogelijk niet zo spectaculair, de waarde komt dan vooral uit snelheid en proceskwaliteit.

Een thematisch aandelenteam kan bijvoorbeeld een AI-ondersteund proces gebruiken om rapportages, marktcommentaar en beleidsdocumenten te verzamelen rond een langlopend beleggingsthema. Het systeem kan dubbele bronnen verwijderen, relevant materiaal markeren, een voorlopige notitie opstellen met feitelijke beweringen die zijn gekoppeld aan brondocumenten, en inconsistenties signaleren. De analist kan vervolgens meer tijd besteden aan het kritisch toetsen van de case, in plaats van aan het samenstellen van het dossier. De portefeuillebeslissing blijft nog steeds bij een mens. De sleutelterm is ‘gecontroleerde delegatie’: AI ondersteunt het proces, maar neemt geen beslissingen.

AI-capaciteit wordt onderdeel van de due diligence van de managers. Maar beleggers moeten vermijden dat zij de manager belonen met het meest indrukwekkende AI-verhaal. Het doel is om echte, herhaalbare en goed gecontroleerde capaciteit te onderscheiden van geïsoleerde experimenten of marketingtaal. Een mogelijke vragenlijst kan er als volgt uitzien:

• Waar wordt AI gebruikt in je beleggings- en operationele proces?

• Bevindt de usecase zich in de productie-, pilot- of experimentele fase?

• Op welke beslissingen heeft AI invloed?

• Stelt het op, vat het samen, markeert het, beveelt het aan of voert het uit?

• Waar is menselijke goedkeuring vereist?

• Welke data gebruikt het systeem en hoe worden gegevensbescherming, licenties, herkomst en bewaartermijnen bewaakt?

• Hoe worden outputs vóór gebruik gevalideerd en na implementatie gemonitord?

• Kun je de data, aannames, outputs en menselijke goedkeuringen achter een materieel AI-ondersteund proces reconstrueren?

• Wie is binnen het bedrijf verantwoordelijk voor het AI-beheer?

• Welke waarborgen zijn er tegen hallucinaties, bias, onnauwkeurige rapportage, datamisbruik en afhankelijkheid van leveranciers?

• Wat is het protocol als een AI-ondersteund proces een fout produceert?

Een vermogensbeheerder die zegt “wij gebruiken AI” volstaat niet: vertrouwen in de capaciteit moet voortkomen uit het gecontroleerde proces rond het model.

De adoptie van AI binnen beleggingsinstellingen zal waarschijnlijk in fasen verlopen. Instellingen hoeven niet meteen naar de meest geavanceerde fase over te stappen; solide governance in fasen 1 en 2 zorgt ervoor dat de invoering in latere fasen veiliger verloopt.

Fase 1: AI als assistent
Mensen gebruiken AI om samen te vatten, op te stellen, te zoeken, te programmeren, te vertalen en analyses voor te bereiden. Dit wordt nu al gangbare praktijk op kantoor. De governancefocus ligt vooral op dataverwerking, acceptabel gebruik en een basisbeoordeling.

Fase 2: AI als workflowinfrastructuur
AI wordt geïntegreerd in herhaalbare processen, zoals researchvoorbereiding, monitoring van managers, risicorapportage, due diligence, beleidsbeoordeling, klantrapportage en documentatie. De governancevraag verschuift van ‘welke tool gebruik je?’ naar ‘welk proces is herontworpen, en welke controles zijn eromheen ingericht?’

Fase 3: AI als netwerk van gespecialiseerde assistenten
Steeds meer gespecialiseerde AI-systemen beginnen markten, portefeuilles, managers, operationele risico’s of governance-uitzonderingen te monitoren. Elk systeem heeft een beperkte rol en duidelijke toegangsrechten. Het systeem schakelt mensen in wanneer grenzen worden bereikt. Deze fase is aannemelijk, maar moet geleidelijk worden opgebouwd en streng worden gecontroleerd.

Beleggers hoeven geen AI-ingenieurs te worden. Maar ze hebben wel genoeg AI-geletterdheid nodig om betere vragen te stellen. Waar wordt AI gebruikt? Op welke beslissing heeft het invloed? Op welke gegevens heeft het betrekking? Welk bewijs ondersteunt de output? Hoe stabiel is de conclusie? Wat mag het systeem doen? Wie is verantwoordelijk? Wat gebeurt er als het faalt? Deze vragen maken verantwoord innoveren mogelijk.

Waarschijnlijk wordt agentic AI onderdeel van de operationele structuur van vermogensbeheer: het helpt teams bij het verzamelen van bewijs, monitoren van risico’s, verwerken van informatie en documenteren van beslissingen. De instellingen die het meest profiteren, zijn niet per se degene die AI het snelst omarmen. Het zijn de instellingen die gecontroleerd experimenteren makkelijker maken zonder de governancestandaarden te verzwakken. De toekomst van vermogensbeheer zal waarschijnlijk niet volledig autonoom zijn, maar hoe meer AI kan doen, des te duidelijker mensen moeten definiëren wat het mag doen.