Author: MIL-OSI Publisher

Source: The Conversation – in French – By David Rios Insua, Member of the ICMAT, AXA-ICMAT Chair in Adversarial Risk Analysis and Member of the Spanish Royal Academy of Sciences, Instituto de Ciencias Matemáticas (ICMAT-CSIC)

L’essor fulgurant de l’intelligence artificielle offre d’immenses opportunités, mais fait également peser des risques majeurs sur la démocratie, l’économie, la santé et la sécurité, que seuls des usages responsables, des systèmes plus sûrs et une régulation internationale ambitieuse pourront contenir.

L’intelligence artificielle (IA) s’invite désormais dans presque tous les aspects de notre vie. Nous profitons de ses avantages, comme l’accélération de la découverte de nouveaux médicaments ou l’avènement d’une médecine plus personnalisée grâce à la combinaison de données et d’expertise humaine, souvent sans même nous en rendre compte. L’IA générative, qui permet de créer rapidement du contenu et d’automatiser la synthèse ou la traduction via des outils comme ChatGPT, DeepSeek ou Claude, en est la forme la plus populaire. Mais l’IA ne se limite pas à cela : ses techniques, issues principalement de l’apprentissage automatique, des statistiques et de la logique, contribuent à produire des décisions et des prédictions en réponse aux demandes d’utilisateurs.

Si elle permet désormais d’accélérer des travaux de recherche qui exigeaient autrefois des années, elle peut aussi être détournée, par exemple pour identifier des composants utiles à la mise au point d’armes biochimiques. Elle ouvre la voie à des technologies comme les véhicules autonomes, mais en leurrant leur système de vision, on peut aussi transformer ces véhicules en armes… Les risques liés à l’IA sont multiples et spécifiques, et doivent être compris comme tels, ne serait-ce que parce que les systèmes d’IA sont complexes et s’adaptent avec le temps, ce qui les rend plus imprévisibles. Au rayon des menaces, on trouve notamment les données utilisées pour entraîner les modèles sous-jacents, puisque des données biaisées produisent des résultats biaisés.

Globalement, des acteurs malveillants peuvent utiliser l’IA pour automatiser des attaques à grande vitesse et le faire à très grande échelle. Lorsque l’intelligence artificielle contrôle des systèmes critiques, toute attaque peut avoir des conséquences considérables. Et comme les outils d’IA sont largement accessibles, il est relativement facile de les utiliser pour causer des dommages.

Menaces pour la démocratie et la santé

Plus tôt cette année, le Forum économique mondial de Davos a mentionné les « conséquences négatives des technologies d’IA » dans son Global Risks Report, en raison de leur capacité à perturber la stabilité géopolitique, la santé publique et la sécurité nationale.

Les risques géopolitiques tournent majoritairement autour des élections. Avec l’IA, les possibilités de désinformer se sont multipliées : en quelques clics, un utilisateur peut créer de faux profils, produire des fake news et en adapter le langage pour manipuler avec une précision inquiétante. L’élection présidentielle roumaine de 2024 a été suspendue en raison d’une ingérence étrangère manifeste via les réseaux sociaux. À mesure que l’IA progresse, ces risques ne feront que s’intensifier.

Les conséquences financières de l’IA ne peuvent pas non plus être ignorées. Des fausses informations générées par ces outils sont désormais utilisées pour manipuler les marchés, influencer les investisseurs et faire varier les cours des actions. En 2023, par exemple, une image générée par IA montrant une explosion près du Pentagone, diffusée juste après l’ouverture des marchés américains, aurait provoqué une baisse de la valeur de certains titres. Par ailleurs, des attaques « par exemples contradictoires » – qui consistent à tromper un modèle d’apprentissage automatique en modifiant les données d’entrée pour provoquer des sorties erronées – ont montré qu’il était possible de manipuler des systèmes de scoring de crédit fondés sur l’IA. Conséquence : des prêts étaient octroyés à des candidats qui n’auraient pas dû en bénéficier.

L’IA menace également les systèmes de santé. On se souvient, lors de la pandémie de Covid-19, de la vitesse avec laquelle les fake news sur les vaccins ou les confinements se sont propagées, alimentant la méfiance dans certaines communautés. Au-delà, des systèmes de santé fondés sur l’IA et entraînés sur des données biaisées peuvent produire des résultats discriminatoires, refusant des soins à des populations sous-représentées. Une étude récente du Cedars Sinai a ainsi montré que plusieurs grands modèles de langage (LLM) « proposaient souvent des traitements inférieurs » lorsqu’un patient en psychiatrie était « explicitement ou implicitement présenté » comme afro-américain. Enfin, l’IA a élargi la surface d’exposition des hôpitaux, qui deviennent des cibles de choix.

Nous devons également rester attentifs aux enjeux de sécurité nationale posés par l’IA. La guerre en Ukraine en offre une illustration claire. Le rôle militaire accru des drones dans ce conflit, dont beaucoup sont alimentés par des outils d’IA, est un exemple parmi tant d’autres. Des attaques sophistiquées utilisant l’IA ont mis hors service des réseaux électriques et perturbé des infrastructures de transport. De la désinformation appuyée sur l’intelligence artificielle a été diffusée pour tromper l’adversaire, manipuler l’opinion publique et façonner le récit de la guerre. Clairement, l’IA est en train de redéfinir les champs traditionnels de la guerre.

Son impact s’étend au domaine sociétal, du fait de la suprématie technologique acquise par certains pays et certaines entreprises, mais aussi au domaine environnemental, en raison de la consommation énergétique de l’IA générative. Ces dynamiques ajoutent de la complexité à un paysage mondial déjà fragile.

Une voie vers une IA plus sûre

Les risques liés à l’IA sont en constante évolution et, s’ils ne sont pas maîtrisés, ils pourraient avoir des conséquences potentiellement catastrophiques. Pourtant, si nous agissons avec urgence et discernement, nous n’avons pas à craindre l’IA. En tant qu’individus, nous pouvons jouer un rôle déterminant en interagissant de manière sûre avec les systèmes d’IA et en adoptant de bonnes pratiques. Cela commence par le choix d’un fournisseur qui respecte les standards de sécurité en vigueur, les réglementations locales propres à l’IA, ainsi que le principe de protection des données.

Le fournisseur doit chercher à limiter les biais et être résilient face aux attaques. Nous devons également toujours nous interroger face aux informations produites par un système d’IA générative : vérifier les sources, rester attentifs aux tentatives de manipulation et signaler les erreurs et les abus quand nous en repérons. Nous devons nous tenir informés, transmettre cette vigilance autour de nous et contribuer activement à ancrer des usages responsables de l’IA.

Les institutions et les entreprises doivent exiger des développeurs d’IA qu’ils conçoivent des systèmes capables de résister aux attaques adversariales. Ces derniers doivent prendre en compte les risques d’attaques adverses, en créant des mécanismes de détection s’appuyant sur des algorithmes et, lorsque cela est nécessaire, en remettant l’humain dans la boucle.

Les grandes organisations doivent également surveiller l’émergence de nouveaux risques et former des équipes réactives, expertes en analyse du « risque adversarial ». Le secteur de l’assurance développe d’ailleurs désormais des couvertures spécifiquement vouées à l’IA, avec de nouveaux produits destinés à répondre à la montée des attaques adverses.

Enfin, les États ont eux aussi un rôle déterminant à jouer. Beaucoup de citoyens manifestent leur souhait que les IA respectent les droits humains et les accords internationaux, ce qui suppose des cadres législatifs solides. Le récent AI Act européen, première réglementation visant à favoriser un développement responsable de l’IA en fonction des niveaux de risque des systèmes, en est un excellent exemple. Certains y voient une charge excessive, mais je considère qu’il devrait être perçu comme un moteur destiné à encourager une innovation responsable.

Les gouvernements devraient également soutenir la recherche et l’investissement dans des domaines comme l’apprentissage automatique sécurisé, et encourager la coopération internationale en matière de partage de données et de renseignement, afin de mieux comprendre les menaces globales. (L’AI Incident Database, une initiative privée, offre un exemple remarquable de partage de données.) La tâche n’est pas simple, compte tenu du caractère stratégique de l’IA. Mais l’histoire montre que la coopération est possible. De la même manière que les nations se sont accordées sur l’énergie nucléaire et les armes biochimiques, nous devons ouvrir la voie à des efforts similaires en matière de supervision de l’IA.

En suivant ces orientations, nous pourrons tirer le meilleur parti du potentiel immense de l’IA tout en réduisant ses risques.

Créé en 2007 pour aider à accélérer et partager les connaissances scientifiques sur des questions sociétales clés, le Fonds Axa pour la recherche – qui fait désormais partie de la Fondation Axa pour le progrès humain – a soutenu plus de 750 projets à travers le monde sur des risques environnementaux, sanitaires et socio-économiques majeurs. Pour en savoir plus, rendez-vous sur le site web du Fonds Axa pour la recherche ou suivez @AXAResearchFund sur LinkedIn.

David Rios Insua a reçu des financements du ministère espagnol des Sciences, de l’Innovation et des Universités, des programmes H2020 et HE de la Commission européenne, de l’EOARD, du SEDIA espagnol, de la Fondation BBVA et de CaixaBank.

– ref. L’IA fait peser des risques sur la sécurité nationale, la démocratie et notre système de santé… Quelques pistes pour les réduire – https://theconversation.com/lia-fait-peser-des-risques-sur-la-securite-nationale-la-democratie-et-notre-systeme-de-sante-quelques-pistes-pour-les-reduire-266835

Source: The Conversation – in French – By Laurence Lafanechère, Directrice de recherche CNRS, Université Grenoble Alpes (UGA)

Une nouvelle molécule capable de protéger les neurones des effets toxiques de la chimiothérapie, tout en renforçant l’efficacité de certains traitements anticancéreux, a été découverte et offre des résultats prometteurs chez l’animal. Une start-up a été créée pour continuer son développement et mener des études chez l’humain.

Picotements dans les mains et les pieds, brûlures, douleurs, perte de sensibilité, sensation d’engourdissement… Les neuropathies périphériques figurent parmi les effets secondaires les plus fréquents de la chimiothérapie, touchant jusqu’à 90 % des patients pour certains traitements. Leur sévérité conduit parfois les praticiens à ajuster, voire à réduire les doses de chimiothérapie, ce qui peut en diminuer l’efficacité.

Dans un cas sur quatre, ces atteintes nerveuses persistent des mois, voire des années après la fin du traitement. Elles rappellent alors chaque jour aux patients qu’ils ont eu un cancer – alors même que leurs cheveux ont repoussé et que les nausées ou la fatigue ont disparu. Aucun droit à l’oubli, même une fois la maladie vaincue

À ce jour, hormis le port de gants et de chaussons réfrigérants pendant les séances de chimiothérapie – une méthode pas toujours efficace et souvent désagréable –, aucun traitement préventif n’existe. Quelques médicaments palliatifs sont utilisés, pour atténuer la douleur, avec une efficacité modeste.

Notre équipe, en collaboration avec des chercheurs états-uniens et français, vient de franchir une étape importante avec la découverte d’un composé, baptisé Carba1, capable de protéger les neurones des effets toxiques de la chimiothérapie, tout en renforçant l’efficacité de certains traitements anticancéreux. Ces travaux viennent d’être publiés dans la revue Sciences Advances.

Une molécule, deux cibles

Carba1 appartient à la famille des carbazoles, une classe de molécules développée par les chercheurs du Centre d’études et de recherche sur le médicament de Normandie (CERMN), avec lesquels nous collaborons depuis plus de dix ans.

Nos travaux ont mis en évidence que Carba1 agit sur deux cibles principales.

Premièrement, Carba1 interagit avec la tubuline, la brique de base des microtubules. Selon les besoins de la cellule, ces briques peuvent s’assembler pour former soit des « câbles » capables de tirer et de séparer les chromosomes lors de la division cellulaire, soit des « rails » sur lesquels se déplacent des moteurs moléculaires transportant nutriments et organites comme les mitochondries, assurant ainsi la distribution de l’énergie et des ressources dans toute la cellule.

Ce système de transport est particulièrement essentiel dans les cellules nerveuses, dont les prolongements peuvent atteindre plus d’un mètre de longueur, par exemple les neurones qui partent du ganglion rachidien, près de la moelle épinière et vont innerver la peau des pieds. De nombreux médicaments anticancéreux, tels que le paclitaxel (Taxol) ou le docétaxel (Taxotère), ciblent déjà ces structures afin de bloquer la prolifération des cellules tumorales. Cependant, cette action n’est pas sans conséquence : les neurones, eux aussi dépendants des microtubules pour le transport de leurs constituants, en sont affectés, ce qui constitue l’une des causes majeures des neuropathies.

Nous avons montré que Carba1 modifie subtilement les microtubules : il perturbe leur extrémité, favorisant la liaison du paclitaxel. Cette interaction permet d’utiliser des doses plus faibles du médicament anticancéreux sans perte d’efficacité contre les tumeurs.

Mais ce n’est pas tout.

Des neurones plus résistants

Deuxièmement, en examinant plus en détail les propriétés de Carba1, nous avons découvert qu’il agit également sur un autre front : le métabolisme énergétique. Les neurones figurent parmi les cellules les plus gourmandes en énergie, et la défaillance bioénergétique est considérée comme l’un des principaux facteurs contribuant à la dégénérescence neuronale.

Nos résultats montrent que Carba1 active directement une enzyme clé, la nicotinamide phosphoribosyltransférase (NAMPT), qui relance la production de NAD⁺, molécule cruciale pour la génération d’énergie. Résultat : les neurones deviennent plus résistants au stress métabolique et survivent mieux aux agressions des agents chimiothérapeutiques.

Nous avons confirmé l’effet neuroprotecteur de Carba1 sur des cultures de neurones exposées à trois agents chimiothérapeutiques connus pour induire une neuropathie, via des mécanismes différents : le paclitaxel (ciblant les microtubules), le cisplatine (agent alkylant) et le bortézomib (inhibiteur du protéasome).

Contrairement aux cultures témoins où s’étendent des prolongements neuritiques lisses et vigoureux, dans les cultures traitées par ces médicaments, les prolongements présentent un aspect fragmenté, caractéristique d’un processus de dégénérescence. En revanche, lorsque les neurones sont exposés à ces mêmes traitements en présence de Carba1, leurs prolongements demeurent intacts, indiscernables de ceux des cultures non traitées. Ces observations indiquent que Carba1 protège efficacement les neurones de la dégénérescence induite par ces agents neurotoxiques.

Des résultats encourageants chez l’animal

Pour aller plus loin, nous avons testé Carba1 dans un modèle de neuropathie chez le rat traité au paclitaxel, développé par le Dr David Balayssac à Clermont-Ferrand (unité Neurodol). Ce traitement provoque une hypersensibilité cutanée : les rats réagissent à des pressions très faibles sur leurs pattes, un signe de douleur neuropathique. L’analyse histologique montre également une diminution des terminaisons nerveuses intra-épidermiques, tandis que le sang présente des taux élevés de NfL (chaîne légère de neurofilaments), marqueur de dégénérescence neuronale.

Lorsque Carba1 est administré avant et pendant le traitement, ces altérations disparaissent : les nerfs restent intacts, la concentration de NfL demeure normale et la sensibilité cutanée des animaux reste inchangée. Autrement dit, Carba1 protège les neurones de la dégénérescence induite par le paclitaxel. Signe rassurant, Carba1 n’impacte pas la croissance tumorale.

Comme les neurones, les cellules cancéreuses consomment beaucoup d’énergie. Il était donc essentiel de vérifier que Carba1 n’avait pas d’effet pro-tumoral et qu’il ne diminuait pas l’efficacité du paclitaxel. Pour le savoir, nous avons administré Carba1 seul, ou en association avec une dose thérapeutique de paclitaxel, à des souris porteuses de tumeurs greffées. Les résultats sont clairs : Carba1 n’a provoqué aucun effet toxique, ni altéré la santé générale des animaux, ni stimulé la croissance des tumeurs. Il n’interfère pas non plus avec l’action anticancéreuse du paclitaxel.

Une nouvelle voie vers des traitements mieux tolérés

Cette découverte est particulièrement enthousiasmante, car elle combine deux effets rarement réunis :

• renforcer l’efficacité des médicaments anticancéreux de la famille du paclitaxel (taxanes) en permettant d’en réduire la dose ;

• préserver les nerfs et améliorer la qualité de vie des patients pendant et après le traitement.

Avant d’envisager un essai clinique chez l’humain, plusieurs étapes restent indispensables. Il faut d’abord confirmer la sécurité de Carba1 chez l’animal, déterminer la dose minimale efficace et la dose maximale tolérée. Enfin, il sera nécessaire de mettre au point une formulation adaptée à une administration chez l’humain.

Cette mission incombe désormais à la start-up Saxol, issue de cette recherche, dont je suis l’une des cofondatrices. Si ces étapes – qui devraient s’étendre sur cinq ans au moins, selon les défis techniques et les levées de fonds – se déroulent comme prévu, Carba1 pourrait devenir le premier traitement préventif contre la neuropathie induite par la chimiothérapie – une avancée majeure qui pourrait transformer la façon dont les patients vivent leur traitement anticancéreux.

Carba1 incarne une innovation à l’interface de la chimie, de la neurobiologie et de l’oncologie. En associant protection neuronale et renforcement de l’efficacité thérapeutique, cette petite molécule pourrait, à terme, réconcilier traitement du cancer et qualité de vie. Pour les millions de patients confrontés à la double épreuve du cancer et de la douleur neuropathique, elle représente un espoir concret et prometteur.

Laurence Lafanechère est cofondatrice et conseillère scientifique de la Société SAXOL.
Pour mener ses recherches elle a reçu des financements de :
Société d’Accélération de Transfert de Technologies Linksium Maturation grant CM210005, (L.L)
Prématuration CNRS (LL)
Ligue contre le Cancer Allier et Isère (LL, C.T, D.B.)
Ruban Rose (LL)

– ref. Effets secondaires des chimiothérapies : une molécule française prometteuse pour lutter contre les neuropathies périphériques, dont souffrent près de 90 % des patients – https://theconversation.com/effets-secondaires-des-chimiotherapies-une-molecule-francaise-prometteuse-pour-lutter-contre-les-neuropathies-peripheriques-dont-souffrent-pres-de-90-des-patients-269727