Ose-t-on encore dire « Je ne sais pas » ?

Source: The Conversation – France (in French) – By Emmanuel Carré, Professeur, directeur de Excelia Communication School, chercheur associé au laboratoire CIMEOS (U. de Bourgogne) et CERIIM (Excelia), Excelia

Admettre que l’on ne sait pas, c’est plus difficile qu’il n’y paraît. Saydung/Pixabay, CC BY

L’ESSENTIEL

Il est très fréquent que nous soyons persuadés de savoir quelque chose, en raison d’un biais psychologique appelé l’« aisance cognitive ».
Mais si nous sommes réticents à admettre que nous ne savons pas, c’est aussi parce que l’avouer nous fait perdre la face, d’un point de vue social.
Avec l’avènement de l’intelligence artificielle générative, cette tendance s’accentue fortement : l’IA donne l’illusion d’un savoir immédiatement accessible et toujours juste, ce qui est loin d’être le cas.

Quelle mer borde le nord de la Crète ? Quelle est la capitale de l’Australie ? Beaucoup d’entre nous éprouvent, l’espace d’un instant, une sensation particulière : celle de le savoir, juste avant de constater que la réponse manque ou que nous n’en sommes pas certains. L’impression de savoir arrive avant la vérification et lui sert souvent de substitut.

Reconnaître qu’on ignore, dire simplement « Je ne sais pas », devient un geste rare. Trois ressorts l’expliquent : une illusion interne qui nous fait croire que l’on sait, une délégation du savoir à des outils toujours plus rapides et l’intelligence artificielle (IA) qui pousse cette délégation à son terme.

Croire savoir

Il y a pire que ne pas savoir : croire savoir. Le psychologue Daniel Kahneman, qui a passé sa carrière à cartographier les biais de notre jugement, a donné un nom à cette sensation : l’« aisance cognitive ». Une information fluide, simple, déjà entendue se traite sans effort, et cette facilité même prend l’apparence de la justesse. Kahneman le montre par l’expérience : une même affirmation imprimée dans une police nette et contrastée passe pour plus vraie que lorsqu’elle apparaît dans un caractère pâle et brouillé. La lisibilité tient lieu de preuve.

L’aisance cognitive endort ainsi la vigilance qui, autrement, susciterait un « Je ne sais pas » de bon aloi. L’ignorance étouffée dès sa naissance demeure d’abord une ignorance que l’on perçoit à peine.

L’aveu coûte cher pour une autre raison, tenant à ce que le sociologue Erving Goffman appelait la « face » : reconnaître une lacune expose, là où l’assurance rassure. Ce coût varie d’ailleurs selon celui qui interroge : on avoue sans peine son ignorance à un proche, bien moins volontiers à un supérieur, à un examinateur ou devant un public, où l’on préfère souvent risquer une réponse.

Cette difficulté grandit à mesure que la réponse arrive en deux secondes, puisque la lacune se comble avant même que la gêne de l’ignorance se fasse sentir. Une question se pose alors : que devient ce mécanisme quand une machine remplit le vide, avant qu’on ait éprouvé la sensation de l’ignorance ?

Délégation… de savoirs

Il y a quarante ans, reconnaître une lacune impliquait une petite épreuve : ouvrir un dictionnaire, consulter un ouvrage, interroger quelqu’un de plus savant. L’ignorance coûtait un effort et le « Je ne sais pas » gardait un sens plein. Internet a réduit ce coût, l’IA l’a ramené près de zéro.

Réduire le coût de l’accès nous donne le sentiment du savoir plutôt que le savoir lui-même. La psychologie a décrit ce glissement bien avant les agents conversationnels. En 2011, les psychologues Betsy Sparrow et Daniel Wegner ont montré que, lorsqu’une information nous paraît durablement accessible, nous retenons mieux où la retrouver que l’information elle-même, comme si notre mémoire se déplaçait [du contenu vers son point d’accès](https://www.science.org/doi/10.1126/science.1207745](https://www.science.org/doi/10.1126/science.1207745).

Le psychologue Matthew Fisher et ses collègues ont prolongé cette analyse par une série de neuf expériences : après une recherche en ligne, les participants se jugent plus capables d’expliquer par eux-mêmes des sujets qu’ils n’ont fait que consulter, comme si le savoir stocké sur le réseau était devenu le leur.

Avec le dictionnaire, nous déléguions le stockage ; avec le moteur de recherche, la localisation ; avec l’IA, nous commençons à déléguer la formulation, la hiérarchisation et parfois le jugement lui-même. À ce stade, la délégation change de nature. Un moteur de recherche laisse subsister une friction : il renvoie à plusieurs sources, parfois discordantes, dont la confrontation peut éveiller le doute.

Une IA générative répond au contraire d’un seul tenant, dans une formulation fluide et tranchée qui efface cette friction. Elle fournit une réponse même lorsque les éléments lui manquent et signale rarement ses propres limites. Lui déléguer notre jugement revient alors à emprunter son assurance, jusque dans les cas où le doute serait la meilleure réponse.

Ce basculement tranche avec ce que la recherche établit sur la réception d’un conseil. D’ordinaire, une personne accueille l’avis d’autrui avec prudence, un réflexe que les spécialistes nomment egocentric discounting : elle bouge peu et conserve l’essentiel de son opinion de départ. Cette réserve protège le jugement propre. Devant l’IA, elle s’affaiblit : on renonce plus volontiers à son avis initial pour se ranger au sien, comme si la fluidité de sa réponse levait la méfiance qu’un conseil humain rencontre d’ordinaire.

Cette observation appelle une vérification, puisqu’elle suggère que l’IA réduit jusqu’à notre disposition à suspendre notre jugement, une hypothèse que l’on peut tester en laboratoire.

La capacité à douter et notre envie de le faire

Prolongeant des travaux amorcés dès 2024, qui montraient déjà que la seule mention d’un conseil « généré par une IA » suffit à provoquer une surconfiance, Chiara Marcoccia, Walter Quattrociocchi et Valerio Capraro ont mené récemment cette vérification à l’aide de cinq expériences réunissant plus de 3 000 participants.

Leur trouvaille tient au choix des questions. Au lieu de faits vérifiables en ligne, ils ont interrogé sur des détails visuels minuscules de films – la couleur d’un maillot dans Joue-la comme Beckham, le véhicule d’un personnage dans une comédie italienne… –, choisis pour leur absence quasi totale du Web, ce qui pousse les modèles à halluciner. L’IA se trompait donc presque à chaque fois.

Ce dispositif sépare deux choses d’ordinaire confondues, le recours à l’IA et la justesse de sa réponse. Suivre l’IA menait ici à l’erreur, si bien que la déférence observée échappe à l’explication commode d’une délégation raisonnable à un outil fiable.

Les résultats de cette étude toute récente, diffusée en ligne avant sa publication dans une revue, sont éloquents. On y lit que le simple accès à l’IA fait chuter de façon statistiquement significative la volonté de suspendre son jugement : le « Je ne sais pas », qui recueillait près de la moitié des réponses, se réduit à quelques pour cent. Les participants répondent davantage, se trompent bien plus souvent puisque le conseil était faux, et se déclarent pourtant plus confiants.

Plus d’assurance, moins d’exactitude. L’effet tient même quand la réponse arrive sans demande, affichée d’office, à la manière des résumés automatiques que Google, entre autres, place désormais en tête de ses résultats.

Les chercheurs ont aussi introduit une récompense : quelques centimes gagnés pour une bonne réponse, perdus pour une mauvaise. Sans retrouver la prudence de ceux qui n’avaient pas accès à l’IA, les participants la consultent alors moins et répondent mieux. L’IA n’entame donc pas notre capacité à douter, mais notre envie de le faire.

Sauver le « Je ne sais pas »

Leur conclusion se laisse reprendre telle quelle : à mesure que les réponses de l’IA se répandent et s’imposent sans qu’on les sollicite, la volonté de dire « Je ne sais pas » figure parmi les premières pertes de notre commerce avec les machines. Préserver le jugement humain tiendra peut-être moins à rendre l’IA plus exacte qu’à réapprendre quand lui faire confiance, quand s’en défier et à oser, dans le doute, reconnaître les limites de ce que nous savons.

Voilà une alternative à étudier : halluciner en confiance ou accepter de suspendre son jugement, oser dire « Je ne sais pas », avant d’aller chercher et de vérifier par soi-même.

Et si jamais on vous pose la question : la capitale de l’Australie est Canberra, souvent confondue avec Sydney (avec deux y). La Crète est bordée au nord par la mer de Crète, prolongement de la mer Égée, et au sud par la mer de Libye (avec un i puis un y).

Emmanuel Carré ne travaille pas, ne conseille pas, ne possède pas de parts, ne reçoit pas de fonds d’une organisation qui pourrait tirer profit de cet article, et n’a déclaré aucune autre affiliation que son organisme de recherche.

– ref. Ose-t-on encore dire « Je ne sais pas » ? – https://theconversation.com/ose-t-on-encore-dire-je-ne-sais-pas-291801