Quand l’IA vient à nous par l’intermédiaire d’« agents », jusqu’où peut-on lui faire confiance ?

Source: The Conversation – in French – By Paul Favier, Doctorant à la Chaire Gouvernance et Regulation, Université Paris Dauphine – PSL, Université Paris Dauphine – PSL

L’ESSENTIEL

Dans les services du quotidien, l’intelligence artificielle peut nous aider à chercher et à choisir. Avec les agents d’IA, cette aide s’étend à des tâches que nous pouvons leur déléguer.
Mais comment faire confiance à ces nouvelles boîtes noires, dont on ne connaît pas les modes d’action ?
La meilleure solution proposée sera-t-elle vraiment celle qui satisfait le consommateur ? Ou celle qui « arrange » les intérêts bien compris de l’entreprise ?

Vous cherchez un appareil électroménager adapté à votre budget. Vous ouvrez Google, comme vous l’avez fait des centaines de fois, une synthèse apparaît, avec les critères à regarder et les différentes options. Pour cela, vous n’aviez pas prévu de consulter un moteur de recherche en recourant à l’intelligence artificielle (IA) ; vous pensiez avoir fait une simple requête. Pourtant, sans que vous le sachiez vraiment, l’IA est déjà là.

En effet, Google a annoncé, le 22 juillet 2026, le lancement en France des « aperçus IA » et du « mode IA ». Les premiers affichent une synthèse pour certaines requêtes, accompagnée de liens ; le second permet de poursuivre la recherche sous forme de conversation.

Parler de « démocratisation de l’IA » ne suffit plus à décrire ce qui se passe. L’accès s’élargit, mais surtout l’outil vient à nous, dans les services que nous utilisons déjà. Après avoir accompagné nos recherches, il propose de prendre en charge certaines tâches. Quelle place sommes-nous prêts à lui accorder ?

De la recherche au travail délégué

L’IA ne se limite plus à répondre à nos questions. Certains systèmes, appelés « agents », peuvent utiliser des outils numériques et agir pour notre compte, qu’il s’agisse de chercher des offres, de remplir un formulaire ou de préparer une commande. Ainsi, un agent personnel va plus loin qu’une synthèse dans un moteur de recherche. Il dispose d’outils pour agir dans des services numériques. Nous pouvons donc lui confier une tâche, au-delà de la question à laquelle nous attendons une réponse.

Meta s’est engagé dans cette voie avec Muse, présentée en septembre. Selon l’entreprise, cet agent peut travailler dans plusieurs applications, préparer un voyage ou un achat et continuer après la fermeture de l’application. Lancé d’abord aux États-Unis, il est accessible dans sa propre application Muse et dans WhatsApp. L’accueil de l’application semble favorable aux États-Unis au 20 octobre 2026, avec plus de 5 millions de téléchargements en vingt-deux jours et une note de 4,9 sur 5 sur l’App Store états-unien

Pour acheter un appareil électroménager, nous pourrions demander à un assistant quels critères comparer en fonction de notre budget et de nos besoins. Un agent, avec les accès nécessaires, pourrait alors chercher les offres, retenir quelques modèles et préparer la commande. Il suffirait de valider l’achat. La promesse de temps gagné rend cette solution tentante. Encore faut-il pouvoir apprécier les choix qui ont conduit l’agent à nous proposer cette solution.

La confiance permet de déléguer

Nous ne pouvons pas tout vérifier avant chaque décision, quelles que soient les circonstances d’un achat. Nous faisons donc confiance à des intermédiaires dont nous ne connaissons pas entièrement le fonctionnement. Dans un article de recherche publié en 2004, John D. Lee et Katrina A. See montrent que la confiance joue un rôle dans le recours aux systèmes automatisés, surtout lorsque leur complexité nous empêche de bien les comprendre. Selon leur analyse, cette confiance devrait correspondre aux capacités réelles du système définies en tenant aussi compte de ses limites.

Ces travaux précèdent les IA génératives actuelles, mais la question se retrouve à nouveau posée de façon encore plus aiguë avec elles. Après avoir obtenu plusieurs réponses utiles à nos questions, nous pouvons avoir envie de confier davantage de missions à l’outil. Savoir résumer une documentation ne garantit pourtant pas de bien comparer des offres ou d’exécuter correctement une commande. À chaque nouvelle tâche demandée à l’agent IA, les conditions pour lui faire confiance devraient être réexaminées.

Cette question mérite d’autant plus d’être posée qu’une confusion peut venir troubler l’esprit de l’utilisateur. Habitué à recourir à Google ou à WhatsApp, il retrouve un environnement familier. Cela pourrait faciliter l’adoption de l’IA, quand bien même tous les utilisateurs ne lui accordent pas le même degré de confiance.

Qui choisit les options ?

Faire confiance à l’agent pour accomplir une tâche ne nous dit pas sur quels critères il choisit les produits qu’il recommande. Même si sa réponse est claire, quelles offres a-t-il examinées ? Quelle importance a-t-il donnée au prix ? A-t-il tenu compte de toutes nos contraintes ?

Dans une expérience présentée en 2024, Tobias Werner et ses coauteurs ont demandé à des participants de choisir entre deux romans après avoir échangé avec une IA conversationnelle. Celle-ci avait reçu la consigne de favoriser l’un des deux livres. Les participants choisissaient davantage le livre ainsi mis en avant, et environ 39 % ne repéraient pas la tentative d’influence, alors même qu’ils avaient été avertis que l’outil servait les intérêts d’un vendeur fictif. Bien que cette expérience ne permette en aucun cas d’affirmer que Google ou Meta orientent aujourd’hui leurs utilisateurs de cette manière, elle montre cependant que cela pourrait fonctionner.

La clarté de la réponse aide à suivre le raisonnement, sans nous dire si la comparaison est complète. Les moteurs de recherche et les comparateurs hiérarchisaient déjà l’information. La synthèse conversationnelle reprend une sélection et la reformule. Un agent peut ensuite s’appuyer sur elle pour agir. L’offre retenue dans sa réponse peut ainsi devenir celle qu’il nous propose d’acheter.

Connaître le modèle économique

Mais alors ce résultat conduit à regarder les intérêts de l’entreprise qui fournit l’assistant ou l’agent. Comment gagne-t-elle de l’argent ? A-t-elle des liens commerciaux avec les vendeurs dont l’agent recommande les produits ? Ces liens peuvent-ils peser sur les conseils que nous recevons ? Lorsque le service nous aide à choisir, puis à acheter, son financement concerne aussi la façon dont nous pouvons apprécier ses conseils.

La présence d’une publicité, d’un partenariat ou d’une commission ne suffit pas à établir qu’une réponse est biaisée. Une éventuelle orientation doit être démontrée. Pour Muse, Meta indique que les conversations et les données de l’environnement personnel de l’agent ne sont pas partagées avec ses systèmes publicitaires. Cet engagement porte sur l’usage des données. Il ne répond pas, à lui seul, à la question de l’indépendance des recommandations.

La confiance à l’épreuve des intérêts commerciaux

Nous attendons d’une recommandation qu’elle corresponde le mieux possible à nos besoins, à nos préférences et à notre budget. Supposons toutefois que l’entreprise qui fournit l’agent gagne davantage sur la vente d’un appareil que sur celle d’un autre. Elle pourrait avoir intérêt à favoriser le premier, même si le second nous aurait mieux convenu. Le produit conseillé pourrait rester tout à fait plausible, de sorte que le non-alignement entre nos intérêts et les siens serait alors difficile à repérer.

BFM Business, 2026.

Le risque de manipulation commerciale tient à cette influence lorsqu’elle reste invisible. Nul besoin d’inventer les qualités du produit. Insister sur certains avantages ou omettre une alternative mieux adaptée pourrait suffire. Nous recevrions le conseil comme une aide personnelle, avec la confiance acquise au fil des échanges, alors qu’il servirait aussi un objectif de vente dont nous n’aurions pas connaissance. Ce scénario décrit un risque ; aucune pratique de ce type n’est établie ici pour les services cités.

Demander notre accord avant l’achat ne règle pas toute la difficulté. Meta annonce que Muse sollicite une autorisation avant certaines actions sensibles, dont les achats. Au moment d’accepter la commande, cependant, nous nous prononçons sur une offre déjà sélectionnée. Nous avons aussi besoin de connaître les critères de comparaison et, en particulier, si un lien commercial a pesé sur le conseil.

L’enjeu dépasse toutefois la décision individuelle. Si ces agents deviennent des intermédiaires courants de nos achats, leurs recommandations pourraient favoriser l’accès de certaines entreprises aux consommateurs tandis que d’autres offres resteraient moins visibles. La place donnée aux liens commerciaux dans la sélection des produits concerne ainsi les conditions de concurrence autant que la liberté de choix. La transparence sur ces liens constitue une première condition pour que consommateurs et acteurs du marché puissent examiner le rôle de ces nouveaux intermédiaires.

Paul Favier ne travaille pas, ne conseille pas, ne possède pas de parts, ne reçoit pas de fonds d’une organisation qui pourrait tirer profit de cet article, et n’a déclaré aucune autre affiliation que son organisme de recherche.

– ref. Quand l’IA vient à nous par l’intermédiaire d’« agents », jusqu’où peut-on lui faire confiance ? – https://theconversation.com/quand-lia-vient-a-nous-par-lintermediaire-d-agents-jusquou-peut-on-lui-faire-confiance-294391