Le “mirage” de l’IA médicale : des machines pourraient poser des diagnostics sans réellement voir les images, alerte une étude de Stanford
Une étude de Stanford révèle un phénomène troublant : certaines intelligences artificielles décrivent des images… sans jamais les avoir vues. Pire, elles peuvent réussir des tests censés mesurer leur capacité à analyser des images, même quand celles-ci sont absentes. De quoi relativiser sérieusement les promesses de l’IA « qui voit ».
Résumé de l'article
-Une étude de Stanford montre que des IA multimodales peuvent décrire des images… même quand aucune image ne leur est fournie. Bref, c'est un mirage.
-Plus troublant : elles restent parfois performantes sur des tests visuels sans jamais « voir » les données.
-En clair, une partie des performances de l’IA visuelle pourrait relever d’une illusion statistique plutôt que d’une réelle compréhension.
-En médecine, cela pourrait s'avérer très dangereux.
Sommaire
On nous explique depuis des mois que l’IA ne se contente plus de parler : elle verrait, comprendrait, analyserait des radios, des IRM ou des photos avec une finesse croissante. L'étude Mirage: The Illusion of Visual Understanding, signé par une équipe de Stanford et publiée le 2 avril, douche sérieusement cet enthousiasme. Sa thèse est simple, et redoutable : une partie de ce que l’on prend pour de la "vision" relève peut-être surtout d’une illusion statistique.
Les auteurs décrivent un phénomène baptisé "mirage". Concrètement, le modèle répond comme s’il avait reçu une image alors qu’aucune image ne lui a été fournie. Il invente des détails visuels, développe un raisonnement cohérent en apparence, et dans les cas médicaux il tend même à produire des descriptions orientées vers la pathologie plutôt que vers la normalité.
"Les modèles présentent des taux élevés de comportement de type mirage, produisant des réponses détaillées sans entrée visuelle", soulignent les auteurs.
Pour continuer la lecture, abonnez-vous ou utilisez un crédit.
