L'avertissement de l'OMS
Reference News Network a rapporté le 20 janvier que selon l'AFP le 18 janvier.
L'Organisation mondiale de la santé a averti que l'intelligence artificielle générative (IA) pourrait entraîner des changements perturbateurs dans les soins médicaux grâce au diagnostic rapide des maladies, mais que sa mise en œuvre précipitée et non garantie comporte également des dangers.
Selon certaines informations, dans un document publié le 18, l'OMS a analysé les dangers et les avantages de l'utilisation de grands modèles multimodaux (LMM) pour le traitement médical. Ce type d'IA générative peut utiliser diverses données (textes, images et vidéos) pour générer des résultats de diagnostic
basé sur des algorithmes qui ne se limitent pas aux types de données.
"Certaines personnes pensent que LMM imitera les pensées et les comportements humains et résoudra certains problèmes humains de manière interactive." a déclaré Alan Labrick, chef du département santé numérique et innovante de l'OMS.
L'OMS estime que le LMM sera largement utilisé dans le traitement médical, la recherche scientifique et les médicaments à l'avenir. L'organisation a identifié cinq domaines dans lesquels la technologie pourrait être utilisée : le diagnostic, la recherche scientifique et le développement de médicaments, l'enseignement médical et infirmier, l'administration et la vérification des symptômes.
Bien que le LMM ait un grand potentiel d'application, l'OMS a déclaré que la technologie peut produire des résultats « faux, incorrects, déformés ou incomplets ». « Comme les LMM sont de plus en plus utilisés dans le domaine de la santé et de la médecine, les erreurs, les utilisations incorrectes et les préjudices personnels sont inévitables », a noté l'organisation.
Le document de l'OMS présente les nouvelles tendances éthiques et les problèmes de gestion du LMM, et fournit 40 recommandations aux gouvernements, aux entreprises et aux patients sur la manière d'utiliser cette technologie en toute sécurité.
L'OMS estime que la technologie devrait d'abord être appliquée au secteur médical afin que les défauts puissent être découverts et corrigés. Jeremy Farrar, scientifique en chef de l'Organisation mondiale de la santé, a souligné : « L'IA générative peut améliorer les soins médicaux, mais elle doit être réalisée avec des développeurs, des décideurs et des utilisateurs pleinement conscients des risques qui en découlent. »
"Nous avons besoin d'informations et de politiques transparentes concernant le concept, le développement et l'utilisation du LMM pour obtenir les meilleurs résultats possibles en matière de soins de santé et surmonter les inégalités persistantes dans les soins de santé", a déclaré Farrar.
L'OMS appelle à l'introduction de certaines garanties afin que les utilisateurs lésés par LMM puissent recevoir une indemnisation raisonnable et disposer de moyens de secours.
Selon le rapport, l'IA est utilisée en santé publique et en médecine clinique, mais l'OMS estime que le LMM présente certains risques et que « la société, les systèmes médicaux et les utilisateurs finaux ne sont peut-être pas entièrement préparés à y faire face ».
L'OMS estime également que le LMM est généralement développé et appliqué par des géants de la technologie, ce qui peut soulever des inquiétudes et des risques quant au monopole technologique de ces entreprises. L'OMS exige que la recherche et le développement du LMM reposent non seulement sur des scientifiques et des ingénieurs, mais également sur des praticiens et des patients du domaine médical.
L’organisation a également mis en garde contre les vulnérabilités du LMM en matière de cybersécurité, qui pourraient mettre en danger les informations relatives aux patients et même la fiabilité des soins médicaux. Il a conclu que les gouvernements devraient tenir les régulateurs responsables de l'approbation des LMM à des fins médicales et exiger des audiences sur leur utilisation afin d'évaluer l'impact de la technologie.
