Les pays sont encore largement impréparés aux risques et aux opportunités présentés par l'IA générative. / Photo : Getty Images

Par Sylvia Chebet

Dans le monde rapide et futuriste de l'intelligence artificielle, l'un des modèles de précision les plus utilisés et qui évolue rapidement est en train de changer la donne pour les soins de santé.

Les grands modèles multimodaux (LMM) sont connus pour leur capacité à analyser et à intégrer des données diverses - images, textes et vidéos - et à fournir des résultats multiples et génératifs qui peuvent potentiellement être utilisés dans le cadre de traitements médicaux.

Ces modèles sont uniques en ce sens qu'ils imitent la communication humaine et qu'ils sont capables d'effectuer des tâches pour lesquelles ils n'ont pas été explicitement programmés.

Mais comme pour toutes les bonnes choses qui ont le potentiel d'être géniales, la réglementation est essentielle.

L'Organisation mondiale de la santé (OMS) vient de publier une série de lignes directrices portant sur l'éthique et la gouvernance de ces LMM.

Ces lignes directrices contiennent plus de 40 recommandations à l'intention des gouvernements, des entreprises technologiques et des prestataires de soins de santé, afin de garantir l'utilisation appropriée des LMM dans le but de promouvoir et de protéger la santé des populations.

Le Dr Ishmael Mekaeel Maknoon, médecin généraliste dans le comté de Kwale au Kenya, estime que l'IA a un immense potentiel dans le domaine des soins de santé, en particulier en Afrique.

"Nous manquons cruellement de médecins et d'infirmières, mais nous pouvons tirer parti de la technologie", explique-t-il à TRT Afrika.

"La technologie peut nous aider à utiliser nos ressources limitées à grande échelle, non seulement dans les secteurs urbains, mais aussi dans les zones rurales.

L'amélioration de la connectivité internet sur le continent est un autre avantage. Dans la région rurale de Kwale, où travaille le Dr Maknoon, de nombreux patients possèdent un smartphone.

Il collabore avec des ingénieurs et des médecins pour mettre au point un outil d'IA permettant d'offrir des services médicaux personnalisés aux patients souffrant de maladies chroniques telles que l'hypertension, le diabète et les maladies rénales.

Le Dr Maknoon estime que les gouvernements devraient capitaliser sur les progrès réalisés dans le domaine de l'IA, arguant du fait que son développement et son déploiement sont abordables, contrairement à ce que l'on croit généralement.

Analyse des risques

L'OMS note que les LMM ont été adoptées plus rapidement que n'importe quelle application grand public dans l'histoire, avec plusieurs plateformes d'IA comme ChatGPT, Bard et Bert entrant dans la conscience du public en 2023.

"Les technologies d'IA générative ont le potentiel d'améliorer les soins de santé, mais seulement si ceux qui développent, réglementent et utilisent ces technologies identifient et prennent pleinement en compte les risques associés", déclare le Dr Jeremy Farrar, scientifique en chef de l'OMS.

"Nous avons besoin d'informations et de politiques transparentes pour gérer la conception, le développement et l'utilisation des LMM afin d'obtenir de meilleurs résultats sanitaires et de surmonter les inégalités persistantes en matière de santé."

Le nouveau guide de l'OMS décrit cinq grandes applications des LMM pour les soins de santé : le diagnostic et les soins cliniques, l'utilisation guidée par le patient pour l'étude des symptômes et le traitement, et les tâches administratives et de bureau telles que la documentation et le résumé des visites des patients.

Elle couvre également l'application des LMM dans l'enseignement médical et infirmier, notamment en proposant aux stagiaires des rencontres simulées avec des patients, ainsi que dans la recherche scientifique et le développement de médicaments.

Le pour et le contre

Si les LMM commencent à être utilisées à des fins spécifiques liées à la santé, des craintes subsistent quant au risque de produire des déclarations fausses, inexactes, partiales ou incomplètes, qui pourraient nuire aux personnes utilisant ces informations pour prendre des décisions en matière de santé.

Les nouvelles orientations de l'OMS visent à gérer la conception, le développement et l'utilisation de l'IA générative. Photo : TRT Bulkans

Les orientations de l'OMS détaillent également des risques plus larges pour les systèmes de santé, tels que l'accessibilité et le caractère abordable des LMM les plus performants.

Les systèmes de gestion de l'information médicale peuvent également encourager les professionnels de la santé et les patients à faire preuve de "partialité en matière d'automatisation", en négligeant des erreurs qui auraient été identifiées autrement ou en déléguant à tort des choix difficiles à une LMM.

Toutefois, le Dr Maknoon estime qu'en prêtant attention aux détails, l'IA pourrait contribuer à réduire certaines des erreurs humaines dans les soins de santé.

"Si je fournis les bonnes données, l'IA pourra certainement me donner ce que je veux, la bonne forme d'algorithmes", explique-t-il à TRT Afrika.

Les LMM, comme d'autres formes d'IA, sont également vulnérables aux risques de cybersécurité qui pourraient mettre en danger les informations des patients ou la fiabilité des algorithmes utilisés dans les soins de santé.

Pour créer des LMM sûrs et efficaces, l'OMS souligne la nécessité d'impliquer les différentes parties prenantes - gouvernements, entreprises technologiques, prestataires de soins de santé, patients et société civile - à toutes les étapes du développement et du déploiement de ces technologies, y compris leur surveillance et leur réglementation.

"Les gouvernements de tous les pays doivent coopérer pour diriger les efforts visant à réglementer efficacement le développement et l'utilisation des technologies de l'IA", déclare le Dr Alain Labrique, directeur de la santé numérique et de l'innovation au sein de la division scientifique de l'OMS.

Recommandations

Les orientations de l'OMS visent à aider les gouvernements à déterminer les avantages et les défis associés à l'utilisation des LMM pour la santé, ainsi qu'à définir des politiques et des pratiques pour un développement, une mise à disposition et une utilisation appropriés.

Selon les nouvelles orientations, les gouvernements doivent fournir une infrastructure publique, y compris de la puissance de calcul et des ensembles de données publiques accessibles aux développeurs des secteurs public et privé qui adhèrent aux principes et valeurs éthiques stipulés.

Il recommande également aux gouvernements d'élaborer des lois, des politiques et des réglementations pour s'assurer que les LMM et les applications utilisées dans les soins de santé respectent les obligations éthiques et les normes en matière de droits de l'homme afin de protéger la dignité, l'autonomie et la vie privée des personnes.

Les utilisateurs potentiels et toutes les parties prenantes directes et indirectes, y compris les prestataires de soins médicaux, les chercheurs scientifiques, les professionnels de la santé et les patients, devraient être impliqués dès les premières étapes du développement de l'IA.

Les développeurs doivent donner aux parties prenantes la possibilité de soulever des questions éthiques, d'exprimer leurs préoccupations et de fournir des informations sur l'application d'IA envisagée.

Au-delà de la précision et de la fiabilité, les orientations exigent des développeurs qu'ils soient en mesure de prévoir et de comprendre les résultats secondaires potentiels.

Le Dr Maknoon estime qu'avec une réglementation appropriée, des investissements adéquats et des approches centrées sur le patient, l'IA a le potentiel de révolutionner les soins de santé.

TRT Afrika