Des biais constatés dans les usages d'un modèle d'IA de fondation
Un modèle d’IA de fondation pour la détection de pathologies sur des radiographies thoraciques a démontré des biais raciaux et sexuels conduisant à des performances inégales entre les sous-groupes de patients, selon une étude publiée dans la Revue Radiology: Artificial Intelligence. L’étude vise à mettre en évidence les risques potentiels liés à l’utilisation de ces modèles dans le développement de l’IA en imagerie médicale.
Dans le domaine de l’intelligence artificielle (IA), le modèle de fondation est défini par sa capacité à créer un grand modèle d’IA formé sur une grande quantité de donnée non taguées. On peut le trouver dénommé langage de grande taille ou IA générative.
Des modèles d’IA de fondation utilisés pour élargir les bases de données
En raison de la difficulté de collecter de grands volumes de données de formation de haute qualité, le domaine de l’IA de Santé s’est orienté vers l’utilisation de modèles de fondation de deep learning destinés à d’autres domaines d’étude. Ils ont été formés sur de grands ensembles de données qui gèrent des tâches allant de la traduction de texte à l'analyse d'images médicales.
« De nombreux travaux ont été consacrés au développement de modèles d'IA pour aider les médecins à détecter les maladies grâce aux examens médicaux, commente le Pr Ben Glocker, professeur de machine learning pour l'imagerie à l'Imperial College de Londres (Royaume-Uni). Il est assez difficile d’obtenir suffisamment de données à exploiter pour une maladie spécifique et représentatives de tous les groupes de patients.
Cet article est réservé aux abonnés. Connectez-vous pour y accéder.
En vous abonnant à Thema Radiologie, vous débloquez l’accès à l’ensemble de nos contenus premium : dossiers thématiques, tribunes d’experts, analyses technologiques, interviews et décryptages réglementaires.
Rejoignez une communauté de professionnels engagés dans l’innovation en imagerie médicale et radiologie interventionnelle.
SUR LE MÊME THÈME
Des LLM affinés pour aider à la relecture des comptes rendus
Selon une nouvelle étude publiée dans la Revue Radiology, un grand modèle de langage (LLM) améliorerait sensiblement la détection des erreurs dans les comptes rendus de radiologie. Les chercheurs ont utilisé des comptes rendus synthétiques et des données ciblées pour donner au LLM de la légèreté.
23/05/2025 -
Agir sur la vulnérabilité des grands modèles de langage en radiologie
Dans un nouvel article spécial publié dans la Revue Radiology, des chercheurs abordent les défis de cybersécurité liés aux grands modèles de langage (LLM). Ils soulignent l'importance de mettre en œuvre des mesures de sécurité pour empêcher leur utilisation malveillante dans le système de Santé et m...
21/05/2025 -
Une feuille de route pour atténuer les biais de l'IA
Les biais diagnostiques créés par l’IA relèvent d’un manque d’informations démographiques incluent dans les données de santé. Dans un article publié dans la Revue Radiology, des chercheurs américains décrivent l’importance d’une définition homogène décrivant les groupes démographiques. Un travail qu...
20/05/2025 -
Essais sur une RAG pour améliorer les grands modèles de langages en radiologie
Pour renforcer les attributs des grands modèles de langage appliqués à la radiologie, la RAG, qui code les informations dans un espace vectoriel pour affiner les tâches des LLM basées sur la connaissance, semble pertinente. Dans une étude publiée dans la Revue Radiology : Artificial intelligence, de...
05/05/2025 -
Le lexique radiologique standardisé RadLex fête ses vingt ans
RadLex, un lexique radiologique complet développé par la Radiological Society of North America (RSNA) destiné à proposer un langage commun pour communiquer les résultats diagnostiques par les radiologues, célèbre son 20e anniversaire en 2025.
22/04/2025 -
La TDM ultra low dose, prochaine norme pour le suivi des jeunes immunodéprimés ?
La tomodensitométrie à ultra-faible dose débruitée par l’IA permet, en appliquant seulement 2% de la dose normale, de diagnostiquer efficacement la pneumonie chez les patients immunodéprimés. C’est le résultat d’une étude publiée dans la Revue Radiology et qui pourrait ouvrir la voie vers de nouvel...
14/03/2025 -
Recommandations européennes pour l'intégration de l'IA dans la radiologie
L’European Society of Radiology (ESR), sous la direction de son groupe de travail sur l'IA, vient de publier un document de recommandations pour une implémentation généralisée de l’European AI Act.
11/03/2025 -
LETTRE D'INFORMATION
Ne manquez aucune actualité en imagerie médicale et radiologie !
Inscrivez-vous à notre lettre d’information hebdomadaire pour recevoir les dernières actualités, agendas de congrès, et restez informé des avancées et innovations dans le domaine.