Google führt derzeit Versuche mit seiner medizinischen KI-Plattform Med-PaLM 2 durch, die für die Beantwortung von Fragen des Gesundheitswesens im klinischen Umfeld entwickelt wurde.
Google hat vor kurzem mit der Erprobung des Systems bei Kunden begonnen, darunter die Mayo-Klinik.
Med-PaLM 2Die Fähigkeiten der KI gehen über die Beantwortung von Gesundheitsfragen hinaus - die KI kann Dokumente zusammenfassen und große Mengen von Gesundheitsdaten strukturieren. Außerdem könnte die KI überall dort, wo eine Internetverbindung besteht, modernste Ratschläge erteilen, auch in abgelegenen Regionen oder dort, wo es kaum Ärzte gibt.
In einer E-Mail gesehen vom Wall Street JournalGoogle hat seinen Mitarbeitern mitgeteilt, dass ein KI-Modell, das als vertrauenswürdiger medizinischer Assistent dient, in Ländern mit eingeschränktem Zugang zu Ärzten von enormem Wert sein könnte".
Medizinexperten und Ethiker warnen, dass KI zwar die Medizin revolutionieren kann, Datenschutz und -nutzung aber kritische Fragen bleiben.
Google wurde bereits für seinen Umgang mit sensiblen Gesundheitsdaten im Rahmen seiner Partnerschaften mit Krankenhäusern kritisiert.
Einige gesundheitliche und ethische Risiken sind noch nicht geklärt
Generative KI-Tools bergen neue Risiken, da sie autoritativ klingende Antworten auf medizinische Anfragen generieren und Patienten möglicherweise in einer Weise beeinflussen können, die von Ärzten nicht gebilligt wird.
Google versicherte jedoch, dass die Testkunden von Med-PaLM 2 die Kontrolle über ihre Daten in verschlüsselten, für Google unzugänglichen Einstellungen behalten. Das Programm wird keine Nutzerdaten absorbieren.
Google hat bereits Konkurrenten in diesem Bereich. So hat sich Microsoft im April mit Epic, einem Unternehmen für Gesundheitssoftware, zusammengetan, um Tools zu entwickeln, die mit Hilfe der Algorithmen von ChatGPT automatisch Nachrichten an Patienten verfassen können.
Greg Corrado, ein leitender Forschungsdirektor bei Google, der an Med-PaLM 2 arbeitet, erklärte, dass sich die KI noch in der Entwicklung befindet.
"Ich habe nicht das Gefühl, dass diese Art von Technologie schon so weit ist, dass ich sie in der Gesundheitsfürsorge für meine Familie einsetzen würde", sagte Corrado. Aber Med-PaLM 2 "nimmt die Bereiche im Gesundheitswesen, in denen KI nützlich sein kann, und erweitert sie um das Zehnfache", sagte er.
Ärzte und Führungskräfte des Gesundheitswesens sind der Meinung, dass Programme wie Med-PaLM 2 weiter entwickelt und streng getestet werden müssen, bevor sie zur Diagnose von Patienten und zur Empfehlung von Behandlungen eingesetzt werden können.
Laut einer Google-Papier im Mai veröffentlichtDie Ärzte, die 1.000 Antworten von Med-PaLM 2 untersuchten, bevorzugten in 8/9 Bewertungskategorien die Antworten des KI-Systems gegenüber denen der Ärzte.
Die Ärzte stellten jedoch auch fest, dass Med-PaLM 2 einige ungenaue oder irrelevante Inhalte in seine Antworten einfügte, was darauf hindeutet, dass er Schwächen mit anderen Chatbots teilen könnte, z. B. dass er selbstbewusst themenfremde oder falsche Aussagen generiert.
Kellie Owens, Medizinethikerin an der NYU Grossman School of Medicine, betonte, dass die Patienten über die neuen Möglichkeiten der Nutzung ihrer Gesundheitsdaten durch KI-Tools aufgeklärt werden müssen.
Im Idealfall müssen diese Gespräche von Mensch zu Mensch" zwischen Patienten und medizinischem Personal geführt werden, so Owens.
Die Rolle der KI in der Medizin wird immer größer. Anfang dieser Woche hat ein AI-Modell half Forschern potenziell wertvolle Anti-Aging-Medikamente zu finden, und die ersten KI-generierten Medikamente sind Eintritt in klinische Studien.
