« Les failles multiples révélées par le LancetGate mettent en lumière l’urgence d’une IA responsable »

Nozha Boujemaa, spécialiste de l’IA, revient dans sa chronique sur l’épisode de l’étude publiée dans la revue « The Lancet », où des données de santé d’origine incontrôlée ont conduit à sa rétractation à la demande de plusieurs de ses auteurs.

Publié le 23 juin 2020 à 18h30 - Mis à jour le 30 juin 2020 à 10h08 Temps de Lecture 2 min.

Article réservé aux abonnés

Carte blanche. La crise sanitaire du Covid-19 est un champ d’exploration et d’investigation pour les algorithmes d’intelligence artificielle (IA) dans différents secteurs comme l’épidémiologie, l’imagerie médicale, les essais cliniques. Les bénéfices sont nombreux. Grâce à l’analyse des images scanner pulmonaires et aux prédictions qui en résultent, on peut détecter les lésions, les quantifier et lever les ambiguïtés diagnostiques dues au manque de fiabilité du test RT-PCR.

L’IA permet la prédiction de l’évolution de la gravité des lésions pour optimiser le parcours patient et la gestion des lits de réanimation en temps de crise. Les données – leur disponibilité, leur exploitabilité et leur interprétabilité – sont la clé de voûte de ces études. Certaines initiatives sont en cours pour une coordination sur un partage au niveau européen ou français, via le Health Data Hub, afin de faciliter l’interopérabilité des sources de données hétérogènes multisites et leurs alignements.

Article réservé à nos abonnés Lire aussi Coronavirus : le « Lancetgate » révèle des failles de l’édition scientifique

Plusieurs études ont été lancées pour évaluer l’efficacité de l’hydroxychloroquine. En temps de crise, la compétition pour apporter des solutions est féroce, à en perdre la raison. Des revues de référence, comme The Lancet, se sont laissées piéger par Surgisphere, une société américaine très controversée, qui a collecté des données et effectué des analyses prédictives. Les coauteurs se sont ensuite chargés de l’interprétation clinique des chiffres fournis par ces analyses.

Il est vrai qu’identifier les patients susceptibles d’être infectés avec une sensibilité de 93,7 % et une spécificité de 99,9 % est une performance exceptionnelle. Proposer un score de gravité avec le risque de mortalité, un résultat très séduisant.

De plus, cette étude a rapporté être effectuée sur 96 000 patients, à partir de 671 hôpitaux, ce qui est absolument colossal ! Surgisphere a refusé de donner accès à la cohorte utilisée, ce qui a renforcé la contestation, déjà très forte, de ses résultats. Depuis, c’est la débâcle : retrait de trois des quatre coauteurs, annulation des décisions politiques fondées sur ses résultats (dont celle de l’OMS).

Le cycle de vie des données non maîtrisé

Cette étude clinique utilisant l’IA est un exemple emblématique d’une chaîne de responsabilité non contrôlée – tout le contraire d’un système d’IA de confiance –, avec des défaillances multiples. On constate d’abord, concernant la gouvernance des données, que leur cycle de vie est non maîtrisé.

Que sait-on de leur intégrité et de leurs sources, de la traçabilité de leur traitement, de leur transformation, de leur stockage et de leur usage (transmission à des tiers ou non) ? Ensuite, quelle a été la qualification des données par les spécialistes métiers – en l’occurrence, des cliniciens –, qui définissent les critères d’inclusion et d’exclusion en fonction des profils des patients et de leur parcours de traitement ? Cela a un impact sur l’interprétabilité des résultats. Autrement, on compare des pommes et des oranges et on est dans une situation garbage-in, garbage-out (« ordures à l’entrée, ordures à la sortie »).

Il vous reste 22.46% de cet article à lire.

Lecture du Monde en cours sur un autre appareil.

Vous pouvez lire Le Monde sur un seul appareil à la fois

Ce message s’affichera sur l’autre appareil.

  • Parce qu’une autre personne (ou vous) est en train de lire Le Monde avec ce compte sur un autre appareil.

    Vous ne pouvez lire Le Monde que sur un seul appareil à la fois (ordinateur, téléphone ou tablette).

  • Comment ne plus voir ce message ?

    En cliquant sur «  » et en vous assurant que vous êtes la seule personne à consulter Le Monde avec ce compte.

  • Que se passera-t-il si vous continuez à lire ici ?

    Ce message s’affichera sur l’autre appareil. Ce dernier restera connecté avec ce compte.

  • Y a-t-il d’autres limites ?

    Non. Vous pouvez vous connecter avec votre compte sur autant d’appareils que vous le souhaitez, mais en les utilisant à des moments différents.

  • Vous ignorez qui est l’autre personne ?

    Nous vous conseillons de modifier votre mot de passe.