Google voert proeven uit met zijn medische AI-platform Med-PaLM 2, dat is ontworpen om vragen in de gezondheidszorg te beantwoorden in klinische omgevingen.
Google is onlangs begonnen met het testen van het systeem met klanten, waaronder de Mayo Clinic.
Med-PaLM 2De mogelijkheden van de AI gaan verder dan het beantwoorden van vragen over de gezondheidszorg: de AI kan documenten samenvatten en grote hoeveelheden gezondheidsgegevens structureren. Bovendien zou de AI overal met een internetverbinding geavanceerd advies kunnen geven, ook in afgelegen gebieden of daar waar artsen schaars zijn.
In een e-mail bekeken door The Wall Street JournalGoogle zei tegen zijn werknemers dat een AI-model dat dienst doet als vertrouwde medische assistent "van enorme waarde zou kunnen zijn in landen die een beperktere toegang tot artsen hebben".
Medische experts en ethici waarschuwen dat AI weliswaar een revolutie in de geneeskunde teweeg kan brengen, maar dat gegevensbescherming en -gebruik kritieke kwesties blijven.
Google is al bekritiseerd voor de manier waarop het gevoelige gezondheidsgegevens beheert via zijn partnerschappen met ziekenhuizen.
Sommige gezondheids- en ethische risico's blijven onbeantwoord
Generatieve AI-tools brengen nieuwe risico's met zich mee omdat ze autoritair klinkende antwoorden op medische vragen kunnen genereren, waardoor patiënten mogelijk beïnvloed kunnen worden op manieren die niet door artsen worden gesteund.
Google verzekerde echter dat testklanten van Med-PaLM 2 controle houden over hun gegevens in versleutelde instellingen, ontoegankelijk voor Google. Het programma absorbeert geen gebruikersgegevens.
Google heeft al concurrenten op dit gebied. Microsoft is bijvoorbeeld in april een samenwerking aangegaan met Epic, een bedrijf dat software voor de gezondheidszorg maakt, om tools te ontwikkelen die automatisch berichten kunnen samenstellen voor patiënten met behulp van de algoritmen van ChatGPT.
Greg Corrado, een senior onderzoeksdirecteur bij Google die aan Med-PaLM 2 werkt, verklaarde dat de AI een werk in uitvoering is.
"Ik heb niet het gevoel dat dit soort technologie al zover is dat ik het in de gezondheidszorg van mijn gezin zou willen hebben," zei Corrado. Med-PaLM 2 "neemt echter de plaatsen in de gezondheidszorg waar AI nuttig kan zijn en breidt ze uit met het 10-voudige", zei hij.
Artsen en leidinggevenden in de gezondheidszorg zijn van mening dat programma's zoals Med-PaLM 2 verder moeten worden ontwikkeld en grondig moeten worden getest voordat ze worden gebruikt om diagnoses te stellen en behandelingen voor te stellen.
Volgens een Google-paper gepubliceerd in meiartsen die 1000 antwoorden van Med-PaLM 2 onderzochten, gaven in 8/9 beoordelingscategorieën de voorkeur aan de antwoorden van het AI-systeem boven die van artsen.
Artsen ontdekten echter ook dat Med-PaLM 2 soms onnauwkeurige of irrelevante inhoud in zijn antwoorden opnam, wat erop wijst dat het fouten zou kunnen delen met andere chatbots, zoals het vol vertrouwen genereren van off-topic of valse verklaringen.
Kellie Owens, een medisch ethicus aan de NYU Grossman School of Medicine, benadrukte dat patiënten moeten worden voorgelicht over de nieuwe manieren waarop AI-tools hun gezondheidsgegevens gebruiken.
Idealiter "moeten deze gesprekken van mens tot mens zijn" tussen patiënten en medisch personeel, aldus Owens.
AI speelt een steeds grotere rol in de geneeskunde. Eerder deze week heeft een AI-model hielp onderzoekers mogelijk waardevolle antiverouderingsmedicijnen vinden en de eerste AI-gegenereerde geneesmiddelen zijn Klinische proeven.
