Des biais constatés dans les usages d'un modèle d'IA de fondation
Un modèle d’IA de fondation pour la détection de pathologies sur des radiographies thoraciques a démontré des biais raciaux et sexuels conduisant à des performances inégales entre les sous-groupes de patients, selon une étude publiée dans la Revue Radiology: Artificial Intelligence. L’étude vise à mettre en évidence les risques potentiels liés à l’utilisation de ces modèles dans le développement de l’IA en imagerie médicale.
Dans le domaine de l’intelligence artificielle (IA), le modèle de fondation est défini par sa capacité à créer un grand modèle d’IA formé sur une grande quantité de donnée non taguées. On peut le trouver dénommé langage de grande taille ou IA générative.
Des modèles d’IA de fondation utilisés pour élargir les bases de données
En raison de la difficulté de collecter de grands volumes de données de formation de haute qualité, le domaine de l’IA de Santé s’est orienté vers l’utilisation de modèles de fondation de deep learning destinés à d’autres domaines d’étude. Ils ont été formés sur de grands ensembles de données qui gèrent des tâches allant de la traduction de texte à l'analyse d'images médicales.
« De nombreux travaux ont été consacrés au développement de modèles d'IA pour aider les médecins à détecter les maladies grâce aux examens médicaux, commente le Pr Ben Glocker, professeur de machine learning pour l'imagerie à l'Imperial College de Londres (Royaume-Uni). Il est assez difficile d’obtenir suffisamment de données à exploiter pour une maladie spécifique et représentatives de tous les groupes de patients.
Cet article est réservé aux abonnés. Connectez-vous pour y accéder.
En vous abonnant à Thema Radiologie, vous débloquez l’accès à l’ensemble de nos contenus premium : dossiers thématiques, tribunes d’experts, analyses technologiques, interviews et décryptages réglementaires.
Rejoignez une communauté de professionnels engagés dans l’innovation en imagerie médicale et radiologie interventionnelle.
SUR LE MÊME THÈME
Les comptes rendus radiologiques ne sont pas près de passer par GPT-4
Les grands modèles de langage multimodaux seraient-ils capables de réaliser des comptes rendus radiologiques ? Des résultats d’essais contradictoires troublent le ressenti sur les possibilités de GPT-4V, un modèle qui se concentre uniquement sur la précision diagnostique. Une étude publiée dans la R...
21/07/2025 -
Un nouvel outil d'extraction de données spécialisé en radiologie
Les méthodes d’élaboration des grands modèles de langage sont basées sur des règles qui ne traitent pas efficacement les données non standardisées. Des chercheurs britanniques présentent, dans un article publié dans la Revue European Radiology, RADEX, le nouvel outil d’extraction de données radiolog...
15/07/2025 -
Des grands modèles de langage sensés participer à l'annotation des images pour le deep learning
Incontournables pour l’entrainement des modèles de deep learning, les annotations d’images radiologiques sont rébarbatives et chronophages pour les experts qui les créent. Des grands modèles de langage (LLM) pourraient remplacer les annotations humaines, comme l’indique un article scientifique publi...
23/06/2025 -
Les bonnes pratiques pour l'évaluation de la pertinence d'un outil d'IA en imagerie
Radiologues, informaticiens et chercheurs présentent, dans un article publié dans la Revue Radiology, les pièges et les meilleures pratiques pour atténuer les biais des modèles d'intelligence artificielle (IA) en imagerie médicale. Ils présentent une sorte de feuille de route pour des pratiques plus...
13/06/2025 -
Des LLM affinés pour aider à la relecture des comptes rendus
Selon une nouvelle étude publiée dans la Revue Radiology, un grand modèle de langage (LLM) améliorerait sensiblement la détection des erreurs dans les comptes rendus de radiologie. Les chercheurs ont utilisé des comptes rendus synthétiques et des données ciblées pour donner au LLM de la légèreté.
23/05/2025 -
Agir sur la vulnérabilité des grands modèles de langage en radiologie
Dans un nouvel article spécial publié dans la Revue Radiology, des chercheurs abordent les défis de cybersécurité liés aux grands modèles de langage (LLM). Ils soulignent l'importance de mettre en œuvre des mesures de sécurité pour empêcher leur utilisation malveillante dans le système de Santé et m...
21/05/2025 -
Une feuille de route pour atténuer les biais de l'IA
Les biais diagnostiques créés par l’IA relèvent d’un manque d’informations démographiques incluent dans les données de santé. Dans un article publié dans la Revue Radiology, des chercheurs américains décrivent l’importance d’une définition homogène décrivant les groupes démographiques. Un travail qu...
20/05/2025 -
LETTRE D'INFORMATION
Ne manquez aucune actualité en imagerie médicale et radiologie !
Inscrivez-vous à notre lettre d’information hebdomadaire pour recevoir les dernières actualités, agendas de congrès, et restez informé des avancées et innovations dans le domaine.