Agir sur la vulnérabilité des grands modèles de langage en radiologie

Les LLM, tels que GPT-4 d'OpenAI et Gemini de Google, se sont rapidement imposés comme des outils puissants dans divers domaines de la Santé, révolutionnant la recherche et la pratique clinique. Ces modèles sont utilisés pour diverses tâches, telles que l'aide à la décision clinique, l'analyse des données des patients, la découverte de médicaments et l'amélioration de la communication entre les professionnels de santé et les patients en simplifiant le jargon médical notamment.

Comprendre les vulnérabilités des LLM utilisées dans la pratique radiologique

L'intégration des LLM dans la pratique médicale n’est pas sans risques puisqu’ils sont vulnérables aux menaces de sécurité et peuvent être exploités par des acteurs malveillants pour extraire des données sensibles des patients, manipuler des informations ou altérer les résultats des recherches à l'aide de techniques telles que l'empoisonnement des données ou les attaques par inférence. Cela peut aller de l'ajout intentionnel d'informations erronées aux données d'entraînement d’un modèle d'IA au contournement du protocole de sécurité interne d'un modèle conçu pour empêcher les restrictions de sortie.