Garder le contrôle lorsque les outils peuvent agir

L'intelligence artificielle est déjà présente au sein des entreprises que les investisseurs ont en portefeuille, chez les gérants qu'ils sélectionnent, dans les outils d'analyse qu'ils utilisent et dans les processus opérationnels qui sous-tendent leurs décisions d'investissement. La première vague visible de l'IA générative concernait principalement la productivité personnelle : rédaction, synthèse, traduction, le codage et réponse à des questions.

Avec l'évolution de l'IA générique vers l'IA agentique, le débat prend une nouvelle tournure, car cette dernière est capable de prendre en charge des processus à étapes multiples. Elle est capable de collecter des informations, comparer des sources, utiliser des outils, préserver le contexte, rediriger les résultats et aider les équipes à agir en fonction d'objectifs définis. Cela ouvre de nouvelles perspectives : une couverture plus large des recherches, une analyse plus rapide des scénarios, un suivi plus précis, une meilleure documentation et une réduction des tâches répétitives liées à la préparation.

Mais la question de la gouvernance évolue également. Lorsque l'IA est utilisée pour une tâche unique, la principale préoccupation est de savoir si le résultat est suffisamment précis pour cette tâche. Lorsque l'IA s'intègre à un flux de travail, la question prend une dimension plus large : sur quoi le système a-t-il une influence, quelles données traite-t-il, quelles actions est-il autorisé à prendre en charge, et qui est responsable en cas de problème ? Au lieu de simplement éviter l'IA, la bonne solution consiste à définir les conditions dans lesquelles elle peut être utilisée en toute sécurité, de manière responsable et efficace.

La plupart des risques liés à l'IA au sein d'un établissement d'investissement peuvent être classés en quatre catégories pratiques. Il s'agit de risques de gouvernance bien connus, présentés sous une forme plus dynamique :

Les investisseurs peuvent disposer d'un cadre de contrôle efficace qui s'articule autour de quatre questions interdépendantes. Le niveau d'exigence devrait être adapté en fonction des conséquences de l'action assistée par l'IA. La synthèse interne ne nécessite par exemple pas les mêmes contrôles que les recommandations d'investissement, la sélection des gérants ou la communication avec les clients.

1. L'ancrage : d'où vient la réponse ?
L'ancrage consiste à vérifier si un résultat généré par l'IA repose sur des sources réelles et vérifiables, plutôt que sur de simples conjectures.

Pour une tâche aux enjeux limités, la vérification des sources peut consister à les citer et à effectuer des contrôles ponctuels. Dans le cadre d'une tâche aux enjeux plus importants, les affirmations significatives doivent pouvoir être étayées par des documents originaux ou des sources de données validées. Une réponse donnée avec assurance, mais non étayée par des preuves vérifiables, ne devrait pas influencer une décision importante.

2. La stabilité : le modèle tient-il la route si les hypothèses changent ?
La stabilité permet de déterminer si le résultat reste raisonnable lorsque les données d'entrée ou le cadre changent.

La conclusion reste-t-elle valable si l'on modifie la période considérée, les hypothèses de coûts, le groupe de référence, le scénario ou la formulation du prompt ? Si une réponse change du tout au tout à la moindre variation, elle risque d'être trop fragile pour que l'on puisse s'y fier, même si elle semble convaincante. Dans le cadre des processus d'investissement, la stabilité ne signifie pas éliminer l'incertitude. Cela signifie mettre en évidence les faiblesses avant que le résultat soit utilisé dans une phase ultérieure.

3. L'autorisation : qu'est-ce que le système est autorisé à faire ?
La gestion des autorisations consiste à déterminer ce à quoi le système d'IA est autorisé à accéder, ce qu'il est autorisé à produire ou à déclencher, et dans quels cas une validation humaine est requise.

Le même outil pourrait être autorisé à synthétiser des documents internes, rédiger une recommandation destinée à être examinée par un humain, mais il ne serait en aucun cas autorisé à envoyer des communications externes, modifier un portefeuille, accéder à des données à accès restreint ou déclencher une opération de trading sans autorisation préalable. Ces règles doivent être consignées par écrit, révisées et, dans la mesure du possible, intégrées au système par le biais de contrôles d'accès, de la conception des flux de travail et d'étapes de validation.

4. La responsabilité : qui est responsable et qui valide ?
L'ancrage, la stabilité et l'octroi d'autorisations contribuent à réduire les risques, mais ils ne suppriment pas la nécessité d'une responsabilité humaine.

À mesure que l'IA gagne en capacités, les investisseurs doivent savoir à qui incombe la responsabilité de chaque processus assisté par l'IA : qui a approuvé le cas d'utilisation, qui a vérifié le résultat, qui a validé, quels données ont été enregistrées et que se passe-t-il si le système génère une erreur.

Plus l'utilisation est importante, plus la piste de preuves doit être claire. Un contrôleur ultérieur devrait être en mesure de retracer à quelles fins l'IA a été utilisée, quels résultats elle a produits, quelles sources ont été utilisées, quel contrôle humain a été effectué et quelle décision en a découlé. Cette piste de preuves est essentielle pour garantir la discipline d'investissement, la confiance des clients, le contrôle interne et la conformité réglementaire. Cela permet également de distinguer les résultats bruts du modèle des travaux validés par l'entreprise.

Une évaluation indépendante est ici essentielle : un flux de travail assisté par l'IA ne doit pas être évalué uniquement en demandant au système s'il a bien fonctionné. Pour les utilisations importantes, les entreprises ont besoin de vérifications indépendantes permettant de s'assurer que les résultats sont ancrés, stables, autorisés et utiles. Concrètement, cela implique de dissocier le flux de travail qui génère l'artefact du processus chargé de le valider, comme le montre la Figure 2.

Le modèle réaliste à court terme repose sur la collaboration encadrée entre les humains et l'IA. L'IA est capable de préparer, résumer, analyser, comparer, surveiller, rédiger des ébauches et faire remonter une information. Mais ce sont les humains qui définissent l'objectif, interprètent les données, valident les résultats concrets et assument la responsabilité de l'allocation des capitaux, des résultats pour les clients et de leurs obligations fiduciaires. En d'autres termes, les premières applications les plus utiles de l'IA agentique pourraient s'avérer relativement peu spectaculaires, leur intérêt résidant avant tout dans la rapidité et la qualité des processus.

Une équipe spécialisée dans les actions thématiques, par exemple, pourrait recourir à un processus assisté par l'IA pour rassembler les documents réglementaires, les analyses de marché et les textes de référence relatifs à un thème d'investissement à duration longue. Le système pourrait dédupliquer les sources, marquer les éléments pertinents, rédiger une note préliminaire contenant des affirmations factuelles liées aux documents sources et signaler les incohérences. L'analyste passerait alors plus de temps à remettre en question la thèse qu'à constituer le dossier. La décision relative au portefeuille reviendrait toujours à un humain. La clé réside dans une délégation encadrée : l'IA facilite le processus, mais ne prend pas les décisions à la place de l'humain.

Les capacités en matière d'IA font désormais partie intégrante de la due diligence des gérants. Les investisseurs devraient toutefois éviter de privilégier les gérants qui présentent les discours les plus impressionnants en matière d'IA. L'objectif est de distinguer les capacités réelles, reproductibles et encadrées des expérimentations isolées ou du discours marketing. Voici à quoi pourrait ressembler une liste de questions à titre d'exemple :

• À quelles étapes de votre processus opérationnel et d'investissement l'IA est-elle utilisée ?

• Chaque cas d'utilisation est-il en production, en phase pilote ou en phase d'expérimentation ?

• Sur quelles décisions l'IA a-t-elle une influence ?

• Est-ce quelle rédige, résume, signale, recommande ou exécute ?

• Dans quels cas une validation humaine est-elle nécessaire ?

• Quelles données le système utilise-t-il, et comment la confidentialité des données, les licences, la traçabilité et la conservation sont-elles gérées ?

• Comment les résultats sont-ils validés avant leur utilisation et surveillés après leur mise en œuvre ?

• Pouvez-vous reconstituer les données, les hypothèses, les résultats et les validations humaines qui sous-tendent un processus important assisté par l'IA ?

• Qui est responsable de la gouvernance de l'IA au sein de l'entreprise ?

• Quelles mesures de protection ont été mises en place pour prévenir les hallucinations, les biais, les erreurs de reporting, l'utilisation abusive des données et la dépendance vis-à-vis des fournisseurs ?

• Quel est le protocole à suivre en cas d'erreur produite par un processus assisté par l'IA ?

Il ne suffit pas qu'un gérant affirme « nous utilisons l'IA » : la confiance dans ses capacités doit découler du processus réglementé qui encadre le modèle.

L'adoption de l'IA au sein des établissements d'investissement devrait se faire par étapes. Les établissements n'ont pas besoin de passer immédiatement à l'étape la plus avancée. Une gouvernance solide aux étapes 1 et 2 rend l'adoption ultérieure plus sûre.

Étape 1 : l'IA en tant qu'assistant
Les individus utilisent l'IA pour résumer, rédiger, effectuer des recherches, coder, traduire et préparer des analyses. Cela devient déjà une pratique courante au bureau. Les aspects liés à la gouvernance portent principalement sur le traitement des données, les conditions d'utilisation acceptables et l'examen de base.

Étape 2 : l'IA en tant qu'infrastructure de flux de travail
L'IA s'intègre dans des processus récurrents, tels que la préparation des recherches, le suivi par les gérants, le reporting lié aux risques, la due diligence, l'examen des politiques, le reporting destiné aux clients et la documentation. La question de la gouvernance ne porte plus sur « quel outil utilisez-vous ? », mais sur « quel processus a été repensé, et quels contrôles l'encadrent ? ».

Étape 3 : l'IA en tant que réseau d'assistants spécialisés
Des systèmes d'IA plus spécialisés commencent à surveiller les marchés, les portefeuilles, les gérants, les risques opérationnels ou les exceptions en matière de gouvernance. Chacun d'entre eux a un rôle bien défini et des autorisations clairement établies. Chaque système donne le relais aux humains lorsque les limites sont atteintes. Cette étape est plausible, mais elle doit être mise en place progressivement et faire l'objet d'un encadrement rigoureux.

Les investisseurs n'ont pas besoin de devenir des ingénieurs en IA. Mais ils doivent tout de même disposer de connaissances suffisantes en matière d'IA pour poser de meilleures questions. Dans quels domaines utilise-t-on l'IA ? Sur quelles décisions a-t-elle une influence ? À quelles données a-t-elle accès ? Quelles preuves viennent étayer les résultats ? Dans quelle mesure cette conclusion est-elle stable ? Quelles sont les actions autorisées par le système ? Qui est responsable ? Que se passe-t-il en cas d'erreur ? Ces questions permettent une innovation responsable.

L'IA agentique devrait s'intégrer au cœur même du fonctionnement de la gestion d'actifs, pour aider les équipes à recueillir des données, surveiller les risques, traiter les informations et documenter les décisions. Les établissements qui en tireront le plus grand bénéfice ne seront pas nécessairement ceux qui adopteront l'IA le plus rapidement. Ce seront ceux qui faciliteront la mise en place d'expérimentations contrôlées sans pour autant affaiblir les normes de gouvernance. Il est peu probable que l'avenir de la gestion d'actifs soit entièrement autonome, mais plus l'IA sera capable d'en faire davantage, plus les humains devront définir clairement ce qu'elle sera autorisée à faire.