La quotidienne d’actualité médicale et santé pour les médecins et pharmaciens belges.
L’OMS appelle à la prudence en matière d’utilisation des outils liés aux grands modèles de langage générés par l’intelligence artificielle (IA) afin de protéger et de promouvoir le bien-être, la sécurité humaine et l’autonomie, et de préserver la santé publique.
Parmi les grands modèles de langage figurent notamment des plateformes dynamiques telles que ChatGP. Leur diffusion publique fulgurante et leur utilisation expérimentale croissante à des fins liées à la santé suscitent un enthousiasme considérable quant au potentiel offert de répondre aux besoins de santé des populations.
Si l’OMS est enthousiaste quant à l’utilisation appropriée des technologies, y compris les grands modèles de langage, pour aider les professionnels de la santé, les patients, les chercheurs et les scientifiques, il est préoccupant de constater que le principe de précaution exercé habituellement à toute nouvelle technologie ne s’applique pas de manière systématique dans le cas des grands modèles de langage. Il s’agit notamment du respect des valeurs clés que sont la transparence, l’inclusion, la participation du public, la supervision par des experts et l’évaluation rigoureuse.
L’adoption précipitée de systèmes qui n’ont pas été testés pourrait entraîner des erreurs de la part des personnels de santé, nuire aux patients, saper la confiance dans l’intelligence artificielle et ainsi compromettre (ou retarder) les avantages et les utilisations potentiels à long terme de ces technologies dans le monde entier.
Parmi les préoccupations soulevées, certaines préconisent une surveillance rigoureuse, nécessaire pour que les technologies soient utilisées de manière sûre, efficace et responsable.
Les données utilisées pour entraîner une IA peuvent être biaisées, produisant des informations trompeuses ou inexactes susceptibles de poser des risques pour la santé, l’équité et l’inclusion. Les grands modèles de langage génèrent des réponses qui peuvent sembler faire autorité et sont plausibles pour un utilisateur final. Cependant, ces réponses peuvent être complètement incorrectes ou contenir de graves erreurs, en particulier concernant les réponses liées à la santé. Les grands modèles de langage peuvent être entraînés à partir de données pour lesquelles le consentement n’a pas été donné au préalable, et ces modèles pourraient ne pas garantir de protection des données sensibles (y compris les données relatives à la santé) qu’un utilisateur fournit à une application pour obtenir une réponse.
Tout en s’engageant à exploiter les nouvelles technologies, y compris l’IA et la santé numérique en vue d’améliorer la santé humaine, l’OMS recommande aux responsables de l’élaboration des politiques d’assurer la sécurité et la protection des patients pendant que les entreprises spécialisées dans les technologies s’emploient à commercialiser les grands modèles de langage.
Référence: pour en savoir plus, cliquez ici.
L’équipe de rédaction Tempo Today
