Google mène des essais sur sa plateforme d'IA médicale Med-PaLM 2, conçue pour répondre à des questions liées aux soins de santé dans des environnements cliniques.
Google a récemment commencé à tester le système avec des clients, dont la clinique Mayo.
Med-PaLM 2Les capacités de l'IA ne se limitent pas à répondre aux questions de santé : l'IA peut résumer des documents et structurer de grandes quantités de données sur la santé. En outre, l'IA pourrait fournir des conseils de pointe partout où il y a une connexion internet, y compris dans les régions éloignées ou là où les médecins sont rares.
Dans un courriel consulté par le Wall Street JournalGoogle a indiqué à ses employés qu'un modèle d'IA servant d'assistant médical de confiance pourrait être "d'une grande valeur dans les pays qui ont un accès plus limité aux médecins".
Les experts médicaux et les éthiciens avertissent que si l'IA peut révolutionner la médecine, la protection et l'utilisation des données restent des questions cruciales.
Google a déjà été critiqué pour la façon dont il gère les données de santé sensibles dans le cadre de ses partenariats avec les hôpitaux.
Certains risques sanitaires et éthiques restent sans réponse
Les outils d'IA générative présentent de nouveaux risques, car ils peuvent générer des réponses aux questions médicales qui font autorité, et potentiellement influencer les patients dans un sens qui n'est pas approuvé par les médecins.
Toutefois, Google a assuré que les clients du test Med-PaLM 2 conservent le contrôle de leurs données dans des paramètres cryptés, inaccessibles à Google. Le programme n'absorbera aucune donnée de l'utilisateur.
Google a déjà des concurrents dans ce domaine. Par exemple, Microsoft a conclu en avril un partenariat avec Epic, un éditeur de logiciels de santé, pour développer des outils capables de composer automatiquement des messages à l'intention des patients en utilisant les algorithmes de ChatGPT.
Greg Corrado, directeur principal de la recherche chez Google, qui travaille sur Med-PaLM 2, a déclaré que l'IA était en cours d'élaboration.
"Je n'ai pas l'impression que ce type de technologie ait atteint un niveau tel que j'en aurais besoin dans le parcours de santé de ma famille", a déclaré M. Corrado. Cependant, Med-PaLM 2 "multiplie par dix les domaines de la santé où l'IA peut être bénéfique", a-t-il ajouté.
Les médecins et les cadres du secteur de la santé estiment que les programmes tels que Med-PaLM 2 doivent encore être développés et soumis à des tests rigoureux avant d'être utilisés pour diagnostiquer les patients et suggérer des traitements.
Selon un Article de Google publié en maiLes médecins qui ont examiné 1 000 réponses fournies par Med-PaLM 2 ont préféré les réponses du système d'IA à celles des médecins dans 8/9 catégories d'évaluation.
Cependant, les médecins ont également constaté que Med-PaLM 2 incluait des contenus inexacts ou non pertinents dans ses réponses, ce qui indique qu'il pourrait partager des défauts avec d'autres chatbots, comme le fait de générer en toute confiance des déclarations hors sujet ou fausses.
Kellie Owens, éthicienne médicale à la NYU Grossman School of Medicine, a souligné la nécessité d'informer les patients sur les nouvelles façons dont les outils d'IA utilisent leurs données de santé.
Idéalement, "ces conversations doivent se dérouler d'homme à homme" entre les patients et le personnel médical, a déclaré M. Owens.
Le rôle de l'IA dans la médecine est de plus en plus important. En début de semaine, un Un modèle d'IA a aidé les chercheurs Les premiers médicaments générés par l'IA sont en cours d'élaboration. entrer dans des essais cliniques.
