Google gjennomfører forsøk med sin medisinske AI-plattform Med-PaLM 2, som er utviklet for å svare på helserelaterte spørsmål i kliniske omgivelser.
Google begynte nylig å teste systemet med kunder, blant annet Mayo-klinikken.
Med-PaLM 2Den kunstige intelligensen kan ikke bare svare på spørsmål om helsetjenester - den kan også oppsummere dokumenter og strukturere store mengder helsedata. Den kunstige intelligensen kan dessuten gi banebrytende råd hvor som helst med internettforbindelse, også i avsidesliggende områder eller der det er mangel på leger.
I en e-post sett av Wall Street JournalI en pressemelding til sine ansatte nevnte Google at en AI-modell som fungerer som en betrodd medisinsk assistent, kan være "av enorm verdi i land som har mer begrenset tilgang til leger".
Medisinske eksperter og etikere advarer om at selv om kunstig intelligens kan revolusjonere medisinen, er databeskyttelse og databruk fortsatt kritiske spørsmål.
Google har allerede blitt kritisert for hvordan selskapet håndterer sensitive helsedata gjennom sine partnerskap med sykehus.
Noen helsemessige og etiske risikoer er fortsatt ubesvarte
Generative AI-verktøy utgjør en ny risiko, ettersom de kan generere autoritativt klingende svar på medisinske henvendelser og potensielt påvirke pasienter på måter som ikke er godkjent av legene.
Google forsikret imidlertid at Med-PaLM 2-testklientene beholder kontrollen over dataene sine i krypterte innstillinger, utilgjengelige for Google. Programmet vil ikke absorbere noen brukerdata.
Google har allerede konkurrenter på dette området. For eksempel inngikk Microsoft i april et samarbeid med Epic, et helseprogramvareselskap, om å utvikle verktøy som automatisk kan komponere meldinger til pasienter ved hjelp av ChatGPTs algoritmer.
Greg Corrado, senior forskningsdirektør hos Google som jobber med Med-PaLM 2, uttalte at AI-en er under utvikling.
"Jeg føler ikke at denne typen teknologi er kommet så langt at jeg ønsker å bruke den i helsevesenet for familien min", sier Corrado. Med-PaLM 2 "tar imidlertid de stedene i helsevesenet der AI kan være nyttig, og utvider dem med det tidobbelte", sier han.
Leger og ledere i helsevesenet mener at programmer som Med-PaLM 2 må videreutvikles og testes grundig før de kan brukes til å diagnostisere pasienter og foreslå behandlinger.
Ifølge en Google-artikkel publisert i mai...leger som undersøkte 1000 svar fra Med-PaLM 2, foretrakk AI-systemets svar fremfor legenes i 8/9 av evalueringskategoriene.
Legene fant imidlertid også ut at Med-PaLM 2 inkluderte noe unøyaktig eller irrelevant innhold i svarene sine, noe som tyder på at den kan ha samme svakheter som andre chatboter, for eksempel at den med sikkerhet genererer uttalelser som ikke har med emnet å gjøre eller som er feilaktige.
Kellie Owens, medisinsk etiker ved NYU Grossman School of Medicine, understreket behovet for at pasienter får opplæring i hvordan nye AI-verktøy bruker helsedataene deres.
Ideelt sett må "disse samtalene være mellom mennesker", mellom pasienter og medisinsk personale, sier Owens.
AIs rolle i medisinen blir stadig viktigere. Tidligere denne uken ble en AI-modell hjalp forskerne finne potensielt verdifulle anti-aldringsmedisiner, og de første AI-genererte medisinene er inn i kliniske studier.
