Une feuille de route pour atténuer les biais de l'IA
Les biais diagnostiques créés par l’IA relèvent d’un manque d’informations démographiques incluent dans les données de santé. Dans un article publié dans la Revue Radiology, des chercheurs américains décrivent l’importance d’une définition homogène décrivant les groupes démographiques. Un travail qui sonne comme une feuille de route pour des pratiques plus cohérentes en matière d’IA en imagerie.
Radiologues, informaticiens et chercheurs ont présenté, dans un article publié dans la Revue Radiology, les pièges et les meilleures pratiques pour atténuer les biais des modèles d'intelligence artificielle (IA), dans la pratique radiologique.
Les points faibles de l’IA qui entraînent des biais diagnostiques
« L'IA a le potentiel de révolutionner la radiologie en améliorant la précision diagnostique et l'accès aux soins, annonce l'auteur principal, le Dr Paul H. Yi, professeur associé du département de radiologie et directeur du département d'informatique d'imagerie intelligente au St. Jude Children's Research Hospital de Memphis (Tennessee – USA). Cependant, les algorithmes d'IA peuvent parfois présenter des biais, désavantageant involontairement certains groupes en fonction de l'âge, du sexe ou de l'origine ethnique. »
Si cette problématique est de plus en plus prise en compte, l'évaluation et la mesure des biais algorithmiques posent des défis. Dans cet article, le Dr Yi et ses collègues identifient les principaux points faibles, ainsi que les meilleures pratiques et initiatives à mettre en œuvre. « Malgré l'attention considérable portée à ce sujet, il existe un manque flagrant de consensus sur des aspects clés tels que les définitions statistiques des biais, la catégorisation des données démographiques et les critères cliniques utilisés pour déterminer ce qui constitue un biais significatif », ajoute le Dr Yi.
Cet article est réservé aux abonnés. Connectez-vous pour y accéder.
En vous abonnant à Thema Radiologie, vous débloquez l’accès à l’ensemble de nos contenus premium : dossiers thématiques, tribunes d’experts, analyses technologiques, interviews et décryptages réglementaires.
Rejoignez une communauté de professionnels engagés dans l’innovation en imagerie médicale et radiologie interventionnelle.
SUR LE MÊME THÈME
Les comptes rendus radiologiques ne sont pas près de passer par GPT-4
Les grands modèles de langage multimodaux seraient-ils capables de réaliser des comptes rendus radiologiques ? Des résultats d’essais contradictoires troublent le ressenti sur les possibilités de GPT-4V, un modèle qui se concentre uniquement sur la précision diagnostique. Une étude publiée dans la R...
21/07/2025 -
Un nouvel outil d'extraction de données spécialisé en radiologie
Les méthodes d’élaboration des grands modèles de langage sont basées sur des règles qui ne traitent pas efficacement les données non standardisées. Des chercheurs britanniques présentent, dans un article publié dans la Revue European Radiology, RADEX, le nouvel outil d’extraction de données radiolog...
15/07/2025 -
Des grands modèles de langage sensés participer à l'annotation des images pour le deep learning
Incontournables pour l’entrainement des modèles de deep learning, les annotations d’images radiologiques sont rébarbatives et chronophages pour les experts qui les créent. Des grands modèles de langage (LLM) pourraient remplacer les annotations humaines, comme l’indique un article scientifique publi...
23/06/2025 -
Les bonnes pratiques pour l'évaluation de la pertinence d'un outil d'IA en imagerie
Radiologues, informaticiens et chercheurs présentent, dans un article publié dans la Revue Radiology, les pièges et les meilleures pratiques pour atténuer les biais des modèles d'intelligence artificielle (IA) en imagerie médicale. Ils présentent une sorte de feuille de route pour des pratiques plus...
13/06/2025 -
Des LLM affinés pour aider à la relecture des comptes rendus
Selon une nouvelle étude publiée dans la Revue Radiology, un grand modèle de langage (LLM) améliorerait sensiblement la détection des erreurs dans les comptes rendus de radiologie. Les chercheurs ont utilisé des comptes rendus synthétiques et des données ciblées pour donner au LLM de la légèreté.
23/05/2025 -
Agir sur la vulnérabilité des grands modèles de langage en radiologie
Dans un nouvel article spécial publié dans la Revue Radiology, des chercheurs abordent les défis de cybersécurité liés aux grands modèles de langage (LLM). Ils soulignent l'importance de mettre en œuvre des mesures de sécurité pour empêcher leur utilisation malveillante dans le système de Santé et m...
21/05/2025 -
Essais sur une RAG pour améliorer les grands modèles de langages en radiologie
Pour renforcer les attributs des grands modèles de langage appliqués à la radiologie, la RAG, qui code les informations dans un espace vectoriel pour affiner les tâches des LLM basées sur la connaissance, semble pertinente. Dans une étude publiée dans la Revue Radiology : Artificial intelligence, de...
05/05/2025 -
LETTRE D'INFORMATION
Ne manquez aucune actualité en imagerie médicale et radiologie !
Inscrivez-vous à notre lettre d’information hebdomadaire pour recevoir les dernières actualités, agendas de congrès, et restez informé des avancées et innovations dans le domaine.