Un comité d’experts des principaux centres médicaux et instituts de recherche américains exploite l’apprentissage fédéré propulsé par NVIDIA pour évaluer l’impact de l’apprentissage fédéré et de l’annotation assistée par l’IA afin de former des modèles d’IA pour la segmentation des tumeurs.
L’apprentissage fédéré est une technique permettant de développer des modèles d’IA plus précis et généralisables, formés sur des données provenant de diverses sources de données sans atténuer la sécurité ou la confidentialité des données. Il permet à plusieurs organisations de collaborer au développement d’un modèle d’IA sans que les données sensibles ne quittent leurs serveurs.
“En raison des contraintes de confidentialité et de gestion des données, il devient de plus en plus compliqué de partager des données d’un site à l’autre et de les regrouper en un seul endroit – et l’IA en matière d’imagerie se développe plus rapidement que les instituts de recherche ne peuvent mettre en place des contrats de partage de données”, a déclaré John Garrett. , professeur agrégé de radiologie à l’Université du Wisconsin-Madison. « Adopter l’apprentissage fédéré pour créer et tester des modèles sur plusieurs sites à la fois est le seul moyen, en pratique, de suivre le rythme. C’est un outil indispensable.
Garrett fait partie du sous-comité des outils d’apprentissage automatique et de la recherche de la Society for Imaging Informatics and Medicine (SIIM), un groupe de cliniciens, de chercheurs et d’ingénieurs qui vise à faire progresser le développement et l’application de l’IA pour l’imagerie médicale. NVIDIA est membre du SIIM et collabore avec le comité sur les projets d’apprentissage fédéré depuis 2019.
« Les techniques d’apprentissage fédéré permettent d’améliorer la confidentialité et la sécurité des données, conformément aux réglementations en matière de confidentialité telles que le RGPD, la HIPAA et d’autres », a déclaré le président du comité, Khaled Younis. « De plus, nous constatons une amélioration de la précision et de la généralisation du modèle. »
Pour soutenir leur dernier projet, l’équipe, composée de collaborateurs de Case Western, de l’Université de Georgetown, de la Mayo Clinic, de l’Université de Californie à San Diego, de l’Université de Floride et de l’Université Vanderbilt, a fait appel à NVIDIA FLARE (NVFlare), un framework open source. qui comprend des fonctionnalités de sécurité robustes, des techniques avancées de protection de la vie privée et une architecture système flexible.
Grâce au programme de subventions académiques NVIDIA, le comité a reçu quatre GPU NVIDIA RTX A5000, qui ont été distribués dans les instituts de recherche participants pour configurer leurs postes de travail pour un apprentissage fédéré. D’autres collaborateurs ont utilisé des GPU NVIDIA dans le cloud et sur des serveurs sur site, soulignant ainsi la flexibilité de NVFLare.
Décrypter le code de l’apprentissage fédéré
Chacun des six centres médicaux participants a fourni des données provenant d’une cinquantaine d’études d’imagerie médicale pour le projet, axées sur le carcinome rénal, une sorte de cancer du rein.
“L’idée de l’apprentissage fédéré est que pendant la formation, nous échangeons le modèle plutôt que les données”, a déclaré Yuankai Huo, professeur adjoint d’informatique et directeur du laboratoire de représentation et d’apprentissage des données biomédicales à l’Université Vanderbilt.
Dans un cadre d’apprentissage fédéré, un modèle global initial diffuse les paramètres du modèle aux serveurs clients. Chaque serveur utilise ces paramètres pour configurer une version locale du modèle formée sur les données propriétaires de l’organisation. Ensuite, les paramètres mis à jour de chacun des modèles locaux sont renvoyés au modèle global, où ils sont regroupés pour produire un nouveau modèle global. Le cycle se répète jusqu’à ce que les prédictions du modèle ne s’améliorent plus à chaque cycle d’entraînement.
Le groupe a expérimenté des architectures de modèles et des hyperparamètres pour optimiser la vitesse d’entraînement, la précision et le nombre d’études d’imagerie nécessaires pour entraîner le modèle au niveau de précision souhaité.
Annotation assistée par l’IA avec NVIDIA MONAI
Dans la première phase du projet, les données de formation utilisées pour le modèle ont été étiquetées manuellement. Pour la phase suivante, l’équipe utilise NVIDIA MONAI pour l’annotation assistée par l’IA afin d’évaluer les différences entre les performances du modèle avec des données d’entraînement segmentées à l’aide de l’IA par rapport aux méthodes d’annotation traditionnelles.
« Le plus gros problème avec les activités d’apprentissage fédérées est généralement que les données sur les différents sites ne sont pas extrêmement uniformes. Les gens utilisent différents équipements d’imagerie, ont des protocoles différents et étiquetent simplement leurs données différemment », a déclaré Garrett. “En entraînant une seconde fois le modèle d’apprentissage fédéré avec l’ajout de MONAI, nous visons à déterminer si cela améliore la précision globale des annotations.”
L’équipe utilise MONAI Label, un outil d’étiquetage d’images qui permet aux utilisateurs de développer des applications d’annotation d’IA personnalisées, réduisant ainsi le temps et les efforts nécessaires à la création de nouveaux ensembles de données. Les experts valideront et affineront les segmentations générées par l’IA avant qu’elles ne soient utilisées pour la formation de modèles.
Les données des phases d’annotation manuelle et assistée par l’IA sont hébergées sur Flywheel, une plateforme leader de données d’imagerie médicale et d’IA qui a intégré NVIDIA MONAI dans ses offres.
Une fois le projet terminé, l’équipe prévoit de publier sa méthodologie, ses ensembles de données annotés et son modèle pré-entraîné pour soutenir les travaux futurs.
“Nous souhaitons non seulement explorer ces outils”, a déclaré Garrett, “mais également publier nos travaux afin que d’autres puissent apprendre et utiliser ces outils dans le domaine médical.”
Demander une bourse académique NVIDIA
Le programme de subventions académiques NVIDIA fait progresser la recherche universitaire en fournissant aux chercheurs un accès et des ressources informatiques de classe mondiale. Les candidatures sont désormais ouvertes aux membres du corps professoral à temps plein des établissements universitaires accrédités qui utilisent la technologie NVIDIA pour accélérer des projets de simulation et de modélisation, d’IA générative et de grands modèles de langage.
Les futurs cycles de candidature se concentreront sur des projets dans les domaines de la science des données, du graphisme et de la vision, ainsi que de l’IA de pointe, y compris l’apprentissage fédéré.