Google genomför tester på sin medicinska AI-plattform Med-PaLM 2, som är utformad för att svara på sjukvårdsrelaterade frågor i kliniska miljöer.
Google har nyligen inlett tester av systemet med kunder, bland annat Mayo-kliniken.
Med-PaLM 2s kapacitet sträcker sig längre än till att svara på frågor inom sjukvården - AI:n kan sammanfatta dokument och strukturera stora mängder hälsodata. AI:n skulle dessutom kunna ge banbrytande råd var som helst där det finns en internetuppkoppling, även i avlägsna regioner eller där det råder brist på läkare.
I ett e-postmeddelande visad av Wall Street Journalnämnde Google för sina anställda att en AI-modell som fungerar som en betrodd medicinsk assistent skulle kunna vara "av enormt värde i länder som har mer begränsad tillgång till läkare".
Medicinska experter och etiker varnar för att AI kan revolutionera medicinen, men att dataskydd och dataanvändning fortfarande är kritiska frågor.
Google har redan kritiserats för hur företaget hanterar känsliga hälsodata via sina partnerskap med sjukhus.
Vissa hälsorisker och etiska risker förblir obesvarade
Generativa AI-verktyg innebär nya risker eftersom de kan generera auktoritativt klingande svar på medicinska frågor och potentiellt påverka patienter på sätt som inte stöds av läkare.
Google försäkrade dock att testkunderna i Med-PaLM 2 behåller kontrollen över sina data i krypterade inställningar som är oåtkomliga för Google. Programmet kommer inte att absorbera någon användardata.
Google har redan konkurrenter i detta utrymme. Microsoft inledde till exempel ett samarbete med Epic, ett mjukvaruföretag inom hälso- och sjukvård, i april för att utveckla verktyg som automatiskt kan skriva meddelanden till patienter med hjälp av ChatGPT:s algoritmer.
Greg Corrado, en senior forskningschef på Google som arbetar med Med-PaLM 2, uppgav att AI är ett pågående arbete.
"Jag känner inte att den här typen av teknik ännu är på en sådan nivå att jag skulle vilja ha den i min familjs sjukvårdsresa", säger Corrado. Men Med-PaLM 2 "tar de platser inom sjukvården där AI kan vara till nytta och utökar dem med 10 gånger", säger han.
Läkare och chefer inom sjukvården anser att program som Med-PaLM 2 behöver vidareutvecklas och genomgå noggranna tester innan de kan användas för att ställa diagnoser och föreslå behandlingar.
Enligt en Google-artikel publicerad i maj, läkare som granskade 1.000 svar från Med-PaLM 2 föredrog AI-systemets svar framför läkarnas i 8/9 utvärderingskategorier.
Läkarna upptäckte dock också att Med-PaLM 2 innehöll en del felaktigt eller irrelevant innehåll i sina svar, vilket tyder på att den kan ha samma brister som andra chatbotar, t.ex. att den med säkerhet genererar uttalanden som inte har med ämnet att göra eller falska uttalanden.
Kellie Owens, medicinsk etiker vid NYU Grossman School of Medicine, betonade behovet av att patienter utbildas om nya sätt som AI-verktyg använder deras hälsodata.
"Dessa samtal måste helst vara mellanmänskliga" mellan patienter och medicinsk personal, säger Owens.
AI:s roll inom medicin blir allt viktigare. Tidigare i veckan presenterade en AI-modell hjälpte forskare hitta potentiellt värdefulla läkemedel mot åldrande, och de första AI-genererade läkemedlen är påbörja kliniska prövningar.
