Le futur de la santé passe par l’Intelligence Artificielle

[…] Si elle est correctement gérée, la recherche sur l’IA apportera à la fois des améliorations durables à la santé et des avantages économiques pour l’Europe. Cela donnera à nos chercheurs cliniciens et en santé le temps de se concentrer sur ce qu’ils font le mieux, en améliorant leurs compétences et en maximisant leur expertise, et en augmentant leurs productivité grâce à des systèmes d’IA fournissant des informations pertinentes et actualisées et réduisant le fardeau de tâches plus banales.

Toutefois, pour que ce potentiel soit exploité et que l’Europe puisse jouer un rôle de premier plan dans ce domaine, nous devons relever cinq grands défis. Les décideurs devraient concentrer leur attention sur la réalisation de ces objectifs.

1. Les données en tant qu’infrastructure

Les algorithmes d’intelligence artificielle sont voraces pour les données. Il a été dit que si l’AI est une fusée, les données sont le carburant. Ce carburant est nécessaire à la fois en volume élevé et en qualité supérieure. Des données de mauvaise qualité conduisent à des systèmes sous-performants.
Tous les systèmes d’IA ne valent que par la base d’apprentissage sous-jacente car, une fois formé, un algorithme d’IA est simplement une compression mathématique des données à partir desquelles il a été appris.

Outre la qualité des données, les systèmes d’IA héritent de tout biais systématique ou d’échantillonnage présent dans leurs données d’apprentissage. Par exemple, les modèles d’IA utilisant des informations génétiques pour la prévision du risque de maladie peuvent être sujets à des biais ou à une perte de performance, à moins d’être formés avec des biobanques pleinement représentatives de la diversité ethnique de la population. […]

2. Engagement du public et des patients

Si l’AI doit transformer les services de santé européens, nous devons amener le public avec nous tout au long du voyage. Les préoccupations du public concernant la confidentialité et l’utilisation de ses données de santé pour des activités commerciales sont réelles et probantes.

Parmi les développements récents importants à poursuivre figurent «l’équité algorithmique» garantissant que les recommandations basées sur l’IA ne font pas de distinction entre les caractéristiques clés, telles que la race et le sexe, et les systèmes de construction fournissant des recommandations interprétables.

3. Solutions d’ingénierie robustes

Les systèmes de données de santé doivent être robustes et fiables. En raison de la nature opaque de nombreux algorithmes d’intelligence artificielle, tels que l’apprentissage en profondeur utilisé pour le diagnostic en imagerie médicale, la validation de tels systèmes est plus nuancée que le test de programmes informatiques traditionnels permettant de mettre en œuvre des contrôles de système formels. Il faut être prudent dans la conception des protocoles de validation de l’IA.

4. Régulation

Garantir que les algorithmes respectent des niveaux acceptables prédéfinis de performances et de sécurité, avec une dégradation progressive des performances s’ils sont appliqués à de nouveaux environnements, nécessite une nouvelle stratégie. Les procédures réglementaires en vigueur pour les logiciels dans les systèmes médicaux reposent sur une hypothèse de code statique, explicite.

Pourtant, de par leur nature même, les systèmes d’apprentissage automatique sont conçus pour améliorer leurs performances par une exposition continue aux données. Pour les systèmes d’apprentissage continu, nous aurons besoin de mesures efficaces de suivi et d’exigences claires et vérifiables en cas de défaillance des systèmes.

5. Investissement dans les fondations

L’intelligence artificielle moderne en est à ses débuts, entraînée par une explosion de données saisies à grande échelle, couplée à des ordinateurs maintenant capables de traiter les calculs numériques nécessaires à la formation de nouvelles classes de modèles.

L’intelligence artificielle a fait l’objet de performances empiriques impressionnantes et révolutionnaires, mais nous comprenons encore mal la raison pour laquelle l’intelligence artificielle fonctionne si bien et où elle risque de devenir fragile. Il y a un danger à construire notre maison d’IA sur le sable. Heureusement, l’Europe abrite certains des plus grands informaticiens et statisticiens en informatique travaillant sur les fondements de l’IA.

Pour en savoir plus :

> l’article de Openaccessgovernment (en anglais)