L’utilisation de l’IA dans les soins de santé : une question de prudence
Les recherches ont montré que l’intelligence artificielle (IA) est déjà meilleure que les humains pour sélectionner les organes donneurs pour les transplantations et pour répondre aux questions de santé des patients. Cependant, les experts de l’Organisation mondiale de la santé (OMS) mettent en garde contre les risques d’informations « complètement incorrectes » liées à l’introduction de l’IA dans les procédures de soins de santé.
L’OMS a appelé à la prudence dans l’utilisation des grands modèles de langage (LLM) dans les soins de santé, soulignant que leur utilisation pourrait entraîner des erreurs médicales et éroder la confiance en l’IA. Bien que l’organisation soit enthousiaste quant à l’utilisation appropriée de la technologie, y compris des LLM, pour soutenir les soins de santé, elle s’inquiète du fait que les normes de prudence habituelles ne soient pas appliquées avec les LLM.
Les partisans de l’IA médicale croient que les médecins utiliseront bientôt des systèmes de chatbots pour répondre plus rapidement aux questions des patients sur leur santé, tandis que l’IA pourrait également être utilisée dans certains diagnostics de patients. Cependant, les deux chatbots d’IA proposés par Microsoft et Google (ChatGPT et Bard) ont montré que leurs réponses ne sont pas entièrement fiables en ce qui concerne les faits. Ce qui préoccupe l’OMS, c’est que ces réponses semblent fiables.
L’OMS craint que les données utilisées pour former l’IA puissent être biaisées et générer des informations trompeuses, ce qui pose des risques pour la santé, l’équité et l’inclusion. De plus, les LLM pourraient être utilisés de manière abusive pour générer des désinformations hautement convaincantes qui sont difficiles à différencier du contenu de santé fiable.
L’OMS propose que ces préoccupations soient prises en compte et que des preuves claires de bénéfice soient mesurées avant leur utilisation généralisée. En fin de compte, l’IA peut être un outil précieux pour les soins de santé, mais il est important de faire preuve de prudence et de diligence raisonnable dans son utilisation.
