Source: The Conversation – in French – By Nathalie Guichard, Professeur des Universités, Université Paris-Saclay
Pour les scientifiques, l’intelligence artificielle générative peut apparaître comme une option pour gagner du temps et augmenter leur productivité, mais ce n’est pas sans risques.
Lors de la pandémie de Covid-19, le refus de se faire vacciner résultait notamment du manque de confiance dans l’efficacité et la non-dangerosité du vaccin. Les climatosceptiques (32 % en France) continuent de nier la responsabilité des activités humaines dans le changement climatique. Ces deux exemples ont en commun la remise en question des apports de la science, menant au « scientoscepticisme ».
L’intégration de l’intelligence artificielle à tous les niveaux de la production scientifique pourrait venir renforcer ce sentiment dans la population. Une recherche intègre, éthique et responsable est une condition indispensable au maintien de la confiance des citoyens. Face aux bouleversements induits par l’intelligence artificielle générative (IAG) et en l’absence de règles clairement diffusées au sein de la communauté scientifique, les chercheurs en sciences humaines et sociales (SHS) s’interrogent sur l’évolution et l’éthique de leurs pratiques.
Dans un contexte très concurrentiel où la carrière des chercheurs dépend en grande partie de leur production scientifique, le recours à des outils d’IAG peut apparaître comme une option – pour un coût supposément minime (la plupart des outils sont gratuits et leur utilisation en apparence aisée) – pour augmenter leur propre productivité en s’appuyant sur les capacités de synthèse de vastes ensembles de données et d’écriture des IAG. Cette délégation peut sembler séduisante, mais comporte des risques importants.
Un double questionnement pour les chercheurs
La qualité de la production scientifique repose sur un système d’évaluation par des pairs (peer-review), le plus souvent anonyme. Dans un processus de publication, les chercheurs sont soit auteurs, soit évaluateurs, avec des problématiques quelque peu différentes.
-
Pour les auteurs, l’IAG est susceptible d’être mobilisée à différentes étapes du processus de la recherche (revue de littérature, collecte et analyse de données, rédaction…), ce qui interroge la notion même de propriété intellectuelle. Dans les SHS, où le processus de recherche est souvent itératif, interprétatif et sensible au contexte (en raison de son objet – la société et les relations entre les humains – et pour lequel des méthodologies qualitatives sont souvent mobilisées ; par exemple une analyse de discours de patients au fur et à mesure de l’adoption d’une solution en e-santé), le recours à l’IAG peut ainsi transformer en profondeur les pratiques de recherche. S’il peut aider les chercheurs, il soulève également une question centrale : à partir de quel moment ce soutien devient-il une délégation de l’acte scientifique lui-même ? Or, il est un principe de base, quelle que soit l’intervention de l’IAG dans la rédaction d’un article scientifique, seul le ou les auteurs humains seront in fine responsables du contenu produit. Dès lors, il devient urgent d’élaborer des directives explicites partagées, sur la façon de l’intégrer de manière responsable et de déclarer son usage de façon transparente.
-
Pour les évaluateurs, l’IAG peut être intégrée dans leur propre processus d’évaluation d’un article (peer-review). En effet, les évaluateurs peuvent être tentés d’y recourir pour produire leur évaluation (décrire/synthétiser l’article, identifier ses points forts ou faibles, rédiger certaines parties de leur rapport). L’IAG peut aussi avoir été utilisée par les auteurs de l’article, et c’est alors aux évaluateurs de le détecter et d’apprécier si cette utilisation respecte l’intégrité scientifique exigée par la revue scientifique.
Le recours à l’outil Problematic Paper Screener (PPS), créé par Guillaume Cabanac, a permis de détecter, à ce jour, 25 000 articles utilisant des « expressions torturées » laissant à penser à un usage d’algorithme pour leur rédaction, sans discernement ni relecture humaine.
Or, si de nombreuses revues ont aujourd’hui fixé des règles, les principes éthiques restent flous et les pratiques hétérogènes laissant les chercheurs dans l’incertitude.
Aussi, apparaît-il clairement dans les discours et débats des sociétés savantes, un réel besoin de dialoguer sur ces questions mais aussi une absence d’unanimité sur les options envisageables avec des perceptions éthiques divergentes.
Vers un appauvrissement de la pensée ?
Une étude récente publiée dans la revue Science montre que l’adoption des grands modèles de langage (LLM) par les chercheurs (toutes disciplines confondues) accroît leur productivité (plus de 89 %) et ouvre de nouvelles opportunités (simulation de populations virtuelles lorsque celles-ci sont difficilement accessibles ; synthèse rapide d’une somme d’articles de recherche) mais qu’elle diminue aussi la qualité de leurs travaux en raison de ses capacités limitées à appréhender des tâches complexes.
De plus, le recours à l’IAG pour acquérir des connaissances et rédiger fait courir un risque d’uniformisation de la pensée et des connaissances : son recours ayant tendance à cantonner les chercheurs aux champs déjà bien établis, réduisant par le fait même l’exploration scientifique « en dehors des sentiers battus ». Le chercheur, conscient de ces limites, peut tirer parti de l’utilisation d’une IAG en l’interrogeant de manière précise et pointue, sans se contenter de la première réponse et en vérifiant systématiquement les contenus produits.
L’utilisation de l’IAG pour l’évaluation des articles : un risque majeur pour la fiabilité de la recherche et son utilité pour la société ?
L’IAG représente un problème majeur en ce que les textes qu’elle génère sont, pour le moment, impossibles à différencier automatiquement de ceux produits par les humains. Aussi, à ce stade, deux principes doivent permettre de s’affranchir de cette limite.
Le chercheur doit être le seul garant de la qualité scientifique de la recherche : les chercheurs sont sollicités pour évaluer des articles précisément parce qu’ils sont experts du domaine scientifique considéré. Leur analyse doit donc théoriquement émaner de leur propre jugement, sans délégation à une IAG. C’est d’ailleurs ce que précisent les chartes éthiques ou les consignes de certains éditeurs de revues académiques (à l’instar d’Elsevier ou Sage) qui, à ce stade, interdisent aux évaluateurs de téléverser un article dans un outil d’IAG. Toutefois, si l’IAG devient un outil de support, quelles seront les limites à poser pour son utilisation ?
La confidentialité des données de la recherche devient un gage de la qualité des recherches futures : utiliser une IAG hébergée dans un cloud pour évaluer un article revient à prendre le risque d’exposer à tous des données confidentielles et potentiellement sensibles, ce qui est problématique, notamment, dans le cadre de l’évaluation d’un article scientifique. Il pourrait être envisagé d’utiliser une IAG installée en local non seulement pour préserver la confidentialité des données de recherche mais aussi pour éviter de nourrir l’IA avec des documents non validés scientifiquement. Il en va de la crédibilité des résultats de recherche et de la confiance du grand public dans le discours scientifique.
Le développement rapide des IAG dans la rédaction et l’évaluation d’articles scientifiques oblige d’une part à repenser notre rapport à la connaissance et à sa construction et, d’autre part, à réfléchir en profondeur à la façon de préserver les fondements éthiques de la production et de l’évaluation du savoir. Malgré de premières initiatives pertinentes, une réflexion collective, sociétale, interdisciplinaire et internationale apparaît indispensable pour articuler innovation technologique et responsabilité scientifique.
![]()
Les auteurs ne travaillent pas, ne conseillent pas, ne possèdent pas de parts, ne reçoivent pas de fonds d’une organisation qui pourrait tirer profit de cet article, et n’ont déclaré aucune autre affiliation que leur organisme de recherche.
– ref. Intelligence artificielle générative et recherche académique : comment préserver éthique et intégrité scientifique – https://theconversation.com/intelligence-artificielle-generative-et-recherche-academique-comment-preserver-ethique-et-integrite-scientifique-279944















