Une feuille de route pour atténuer les biais de l'IA

Radiologues, informaticiens et chercheurs ont présenté, dans un article publié dans la Revue Radiology, les pièges et les meilleures pratiques pour atténuer les biais des modèles d'intelligence artificielle (IA), dans la pratique radiologique.

Les points faibles de l’IA qui entraînent des biais diagnostiques

« L'IA a le potentiel de révolutionner la radiologie en améliorant la précision diagnostique et l'accès aux soins, annonce l'auteur principal, le Dr Paul H. Yi, professeur associé du département de radiologie et directeur du département d'informatique d'imagerie intelligente au St. Jude Children's Research Hospital de Memphis (Tennessee – USA). Cependant, les algorithmes d'IA peuvent parfois présenter des biais, désavantageant involontairement certains groupes en fonction de l'âge, du sexe ou de l'origine ethnique. »

Si cette problématique est de plus en plus prise en compte, l'évaluation et la mesure des biais algorithmiques posent des défis. Dans cet article, le Dr Yi et ses collègues identifient les principaux points faibles, ainsi que les meilleures pratiques et initiatives à mettre en œuvre. « Malgré l'attention considérable portée à ce sujet, il existe un manque flagrant de consensus sur des aspects clés tels que les définitions statistiques des biais, la catégorisation des données démographiques et les critères cliniques utilisés pour déterminer ce qui constitue un biais significatif », ajoute le Dr Yi.