Source: The Conversation – in French – By Serge Darolles, Professeur de Finance, Université Paris Dauphine – PSL
Hallucinations, empoisonnement des données, monoculture algorithmique : les vulnérabilités de l’IA appliquée à la finance sont réelles. Surtout, il n’est pas certain que tous ces nouveaux risques soient convenablement appréhendés aussi bien par les intervenants directs du secteur que par les autorités de régulation. Comment faire pour mieux prendre en compte ces différentes failles ?
Faut-il faire confiance à l’intelligence artificielle (IA) pour gérer son épargne ? La question ne relève plus de la science-fiction. La grande majorité des acteurs des marchés financiers français utilisent déjà l’IA ou prévoient de le faire, selon l’Autorité des marchés financiers. Pourtant, les vulnérabilités de ces systèmes restent largement sous-estimées. Parmi les régulateurs et les professionnels de la finance, un constat partagé s’impose : avant de confier davantage la finance à l’IA, il faut en mesurer précisément les risques.
L’enthousiasme pour l’IA est compréhensible. Les modèles de langage (LLM) peuvent analyser en quelques secondes des milliers d’articles de presse, de rapports d’analystes et de données de marché. Certains fonds d’investissement dont les équipes ont développé des compétences en IA affichent des performances supérieures à celles de leurs pairs, comme le montrent des analyses récentes.
Mais ce constat doit être nuancé. Les gains observés se concentrent dans les fonds discrétionnaires, c’est-à-dire ceux où l’IA assiste un gérant expérimenté plutôt qu’elle ne le remplace. La formule gagnante semble être « l’humain avec la machine », et non « la machine au lieu de l’humain ».
À lire aussi :
L’IA peut-elle mieux identifier les entreprises zombies et en sauver davantage ?
Des vulnérabilités structurelles
Les failles de l’IA ne sont pas accidentelles, elles sont structurelles. Pour Wassim Bouaziz, spécialiste de la sécurité de l’IA chez Mistral AI, « les modèles de langage sont intrinsèquement instables. Une perturbation minimale dans les données d’entrée, comme l’ajout de quelques espaces dans un texte, par exemple, peut inverser complètement le résultat produit ».
Le phénomène d’hallucination, par lequel un modèle génère des informations entièrement fabriquées, a déjà causé des dégâts mesurables. Plus d’un millier de décisions de justice ont ainsi été influencées par des contenus hallucinés produits par des LLM, selon un site spécialisé qui répertorie ces cas.
Plus inquiétant encore, ces systèmes sont vulnérables à des attaques délibérées. L’injection de prompt consiste à insérer des instructions cachées dans les données que traite le modèle. Exemple marquant : un texte invisible intégré dans un CV peut influencer les recommandations de recrutement faites par ChatGPT. Transposé à la finance, le risque est évident. Un agent IA qui consulte des sites d’information ou des bases de données pourrait voir ses décisions détournées par des contenus malveillants.
L’empoisonnement des données d’entraînement représente une menace plus insidieuse. Une étude de 2024 a montré qu’il était possible de contaminer 1 % des données d’entraînement d’un modèle pour un coût dérisoire en rachetant des noms de domaine expirés dont le contenu était référencé dans les corpus d’apprentissage. Dans un secteur où un biais introduit dans un modèle peut se traduire par des milliards d’euros de transactions orientées, ce type d’attaque constitue un risque systémique.
Le piège de la monoculture algorithmique
Au-delà des attaques ciblées, un risque structurel émerge de l’adoption massive des mêmes technologies. Les modèles de langage sont entraînés sur des corpus largement similaires, issus d’internet, avec les biais que cela comporte. Lorsque l’ensemble des acteurs d’un marché utilise des outils fondés sur les mêmes architectures et les mêmes données, leurs décisions tendent à converger. Cette monoculture algorithmique peut amplifier les mouvements de marché. En effet, si tous les modèles se trompent dans la même direction au même moment, les pertes se propagent à l’échelle du système.
Le précédent existe. Le flash crash de 2010, durant lequel l’indice Dow Jones a perdu 9 % en quelques minutes sous l’effet d’interactions entre algorithmes, illustre ce que produit une défaillance corrélée. Avec la généralisation de l’IA générative, dont les mécanismes internes sont beaucoup plus opaques que ceux des algorithmes de trading classiques, le risque d’un événement systémique d’un type nouveau ne peut être écarté.
Un régulateur face à un défi inédit
L’Autorité des marchés financiers (AMF) observe cette transformation avec attention. Comme le rappelle son secrétaire général Sébastien Raspiller, « l’IA est encore principalement utilisée pour des fonctions internes (recherche, conformité, analyse) et peu pour le conseil direct aux épargnantes et épargnants ».
Mais la frontière se déplace. Un chiffre donne la mesure du problème de fiabilité. Interrogés sur des données financières basiques des entreprises (dette nette, résultats), les différents grands modèle d’IA n’ont produit qu’un faible pourcentage de réponses exactes. Un tel taux d’erreur serait inacceptable pour une conseillère ou un conseiller humain.
La question de la responsabilité reste ouverte, car un algorithme ne peut être sanctionné. Quand un agent IA effectue un virement ou passe un ordre de Bourse sur la base d’une instruction empoisonnée, la chaîne des responsabilités devient difficile à établir. Le règlement européen sur l’IA classe certaines applications financières parmi les systèmes « à haut risque », exigeant transparence, explicabilité et supervision humaine. Reste à savoir si ces exigences peuvent être satisfaites dans la pratique, quand les décisions se prennent en quelques millisecondes.
Explicabilité, un enjeu de confiance
Dans la gestion d’actifs, la capacité à justifier une décision d’investissement n’est pas un luxe, c’est une obligation fiduciaire. Or, les modèles de langage fonctionnent comme des boîtes noires. Ils ne peuvent pas expliquer pourquoi ils recommandent telle action plutôt que telle autre.
Comme l’ont souligné plusieurs intervenantes et intervenants de la conférence, les sociétés de gestion les plus avancées proposent des réponses à cela. Certaines font par exemple tourner des modèles en parallèle pour détecter les biais. D’autres décomposent le processus de décision en dizaines de sous-tâches confiées à des agents spécialisés afin de mieux identifier la source d’éventuelles défaillances. Enfin, certaines empêchent les analystes débutantes et débutants d’utiliser l’IA afin de préserver l’apprentissage par l’expérience.
Ce dernier point souligne un paradoxe. L’IA transforme un métier dont elle pourrait simultanément appauvrir la transmission des compétences. Si les professionnels de demain délèguent d’emblée le processus de décision financière à une machine sans en maîtriser les fondamentaux, ils perdent la capacité critique nécessaire pour détecter ses erreurs. L’enjeu de formation est donc indissociable de la question technologique. Il ne s’agit pas seulement de former à l’IA, mais de former à penser en présence de l’IA.
Investir dans la recherche publique
Alors jusqu’où peut-on confier la finance à l’IA ? La question posée ici n’appelle pas de réponse binaire. L’IA est déjà dans la finance, et elle y restera. Ce qui reste à déterminer, ce sont les conditions de son déploiement. Quels mécanismes de supervision, quelle transparence, quelle place pour le jugement humain ?
Les travaux de recherche menés à l’Université Paris Dauphine – PSL visent précisément à fournir les éléments de preuve nécessaires pour que ce débat ne soit pas confisqué par les seules promesses commerciales.
Cet article fait partie du dossier « Quand la finance mise sur l’IA, qui garde la main ? » réalisé par Dauphine Éclairages, le média scientifique en ligne de l’Université Paris Dauphine – PSL.
Les auteurs ne travaillent pas, ne conseillent pas, ne possèdent pas de parts, ne reçoivent pas de fonds d’une organisation qui pourrait tirer profit de cet article, et n’ont déclaré aucune autre affiliation que leur organisme de recherche.
– ref. Confier la finance à l’intelligence artificielle : quels sont les risques réels ? – https://theconversation.com/confier-la-finance-a-lintelligence-artificielle-quels-sont-les-risques-reels-281939