Agir sur la vulnérabilité des grands modèles de langage en radiologie
MERCREDI 21 MAI 2025
Soyez le premier à réagirDans un nouvel article spécial publié dans la Revue Radiology, des chercheurs abordent les défis de cybersécurité liés aux grands modèles de langage (LLM). Ils soulignent l'importance de mettre en œuvre des mesures de sécurité pour empêcher leur utilisation malveillante dans le système de Santé et mettent l’accent sur la formation des professionnels et sur l’information auprès des patients.
Les LLM, tels que GPT-4 d'OpenAI et Gemini de Google, se sont rapidement imposés comme des outils puissants dans divers domaines de la Santé, révolutionnant la recherche et la pratique clinique. Ces modèles sont utilisés pour diverses tâches, telles que l'aide à la décision clinique, l'analyse des données des patients, la découverte de médicaments et l'amélioration de la communication entre les professionnels de santé et les patients en simplifiant le jargon médical notamment.
Comprendre les vulnérabilités des LLM utilisées dans la pratique radiologique
L'intégration des LLM dans la pratique médicale n’est pas sans risques puisqu’ils sont vulnérables aux menaces de sécurité et peuvent être exploités par des acteurs malveillants pour extraire des données sensibles des patients, manipuler des informations ou altérer les résultats des recherches à l'aide de techniques telles que l'empoisonnement des données ou les attaques par inférence. Cela peut aller de l'ajout intentionnel d'informations erronées aux données d'entraînement d’un modèle d'IA au contournement du protocole de sécurité interne d'un modèle conçu pour empêcher les restrictions de sortie.
« Bien que l'intégration des LLM dans les soins de santé n'en soit qu'à ses débuts, leur utilisation devrait se développer rapidement, précise l'auteur principal d’une étude sur ce thème publiée dans la Revue Radiology, le Dr Tugba Akinci D’Antonoli, chercheur au sein du Département de neuroradiologie diagnostique et interventionnelle de l'Hôpital universitaire de Bâle (Suisse). Ce sujet gagne en pertinence et il est crucial de commencer dès maintenant à comprendre les vulnérabilités potentielles. »
Les acteurs de la radiologie appelés à prendre des mesures de protection lorsqu’ils utilisent des LLM
`Les vulnérabilités non inhérentes à l'IA s'étendent au-delà du modèle et impliquent généralement l'écosystème dans lequel les LLM sont déployés. Les attaques peuvent entraîner de graves violations de données, des manipulations ou des pertes de données, ainsi que des interruptions de service. En radiologie, un hacker pourrait manipuler les résultats d'analyse d'images, accéder aux données sensibles des patients, voire installer des logiciels malveillants.
Les auteurs de l’article soulignent que les risques de cybersécurité associés aux LLM doivent être soigneusement évalués avant leur déploiement dans le secteur de la santé, en particulier en radiologie, et que les radiologues doivent adopter des mesures de protection lorsqu'ils utilisent des LLM. « Les radiologues peuvent prendre plusieurs mesures pour se protéger des cyberattaques, ajoute le Dr D’Antonoli. Il existe bien sûr des stratégies bien connues, comme l'utilisation de mots de passe forts, l'activation de l'authentification multi facteur ou la mise à jour des correctifs de sécurité de tous les logiciels. Mais comme nous traitons des données patients sensibles, les enjeux sont plus importants dans le secteur de la santé. »
Renforcer les formations en cybersécurité et informer les patients des risques encourus
Pour intégrer en toute sécurité les LLM dans le secteur de la santé, les établissements et les centres d’imagerie doivent garantir des environnements de déploiement sécurisés, un chiffrement robuste et une surveillance continue des interactions avec les modèles. En mettant en œuvre des mesures de sécurité robustes et en adhérant aux meilleures pratiques lors des phases de développement, de formation et de déploiement, les acteurs de Santé peuvent contribuer à minimiser les risques et à protéger la confidentialité des données patients.
« Dans ce cadre, une formation continue en cybersécurité est importante pour les professionnels de Santé, poursuit-elle. Tout comme nous suivons régulièrement des formations en radioprotection en radiologie, les hôpitaux devraient mettre en place des formations régulières en cybersécurité pour tenir chacun informé et préparé. » Elle ajoute que les patients doivent d’autre part être conscients des risques, sans pour autant s’inquiéter outre mesure.
« Le paysage évolue et le potentiel de vulnérabilité pourrait s’accroître avec l’intégration des LLM aux systèmes hospitaliers, conclut-elle. Cela dit, nous ne restons pas les bras croisés. La sensibilisation est croissante, la réglementation est plus stricte et des investissements actifs dans les infrastructures de cybersécurité sont réalisés. Ainsi, si les patients doivent rester informés, ils peuvent également être rassurés : ces risques sont pris au sérieux et des mesures sont prises pour protéger leurs données. »
Paolo Royan