Google gennemfører forsøg med deres medicinske AI-platform Med-PaLM 2, der er designet til at besvare sundhedsrelaterede spørgsmål i kliniske omgivelser.
Google begyndte for nylig at afprøve systemet med kunder, herunder Mayo-klinikken.
Med-PaLM 2's evner rækker ud over at besvare sundhedsspørgsmål - AI'en kan sammenfatte dokumenter og strukturere store mængder sundhedsdata. Desuden kan den kunstige intelligens levere banebrydende rådgivning overalt, hvor der er en internetforbindelse, også i fjerntliggende områder, eller hvor der er mangel på læger.
I en e-mail set af Wall Street Journalnævnte Google for sine medarbejdere, at en AI-model, der fungerer som en betroet lægeassistent, kunne være "af enorm værdi i lande, der har mere begrænset adgang til læger."
Medicinske eksperter og etikere advarer om, at selvom AI kan revolutionere medicinen, er databeskyttelse og -brug stadig kritiske spørgsmål.
Google er allerede blevet kritiseret for, hvordan de håndterer følsomme sundhedsdata via deres partnerskaber med hospitaler.
Nogle sundhedsmæssige og etiske risici forbliver ubesvarede
Generative AI-værktøjer udgør nye risici, da de kan generere autoritativt klingende svar på medicinske forespørgsler og potentielt påvirke patienter på måder, som ikke er godkendt af læger.
Google forsikrede dog, at Med-PaLM 2-testkunderne bevarer kontrollen over deres data i krypterede indstillinger, der er utilgængelige for Google. Programmet vil ikke absorbere nogen brugerdata.
Google har allerede konkurrenter på dette område. For eksempel indgik Microsoft i april et samarbejde med Epic, et sundhedssoftwarefirma, om at udvikle værktøjer, der automatisk kan komponere beskeder til patienter ved hjælp af ChatGPT's algoritmer.
Greg Corrado, der er seniorforskningsleder hos Google og arbejder på Med-PaLM 2, sagde, at AI'en er et igangværende arbejde.
"Jeg føler ikke, at denne form for teknologi endnu er på et sted, hvor jeg vil have den med i min families sundhedsrejse," sagde Corrado. Men Med-PaLM 2 "tager de steder i sundhedsvæsenet, hvor AI kan være gavnlig, og udvider dem med 10 gange," sagde han.
Læger og ledere i sundhedssektoren mener, at programmer som Med-PaLM 2 skal udvikles yderligere og testes grundigt, før de kan bruges til at diagnosticere patienter og foreslå behandlinger.
Ifølge en Google-papir udgivet i majlæger, der undersøgte 1.000 svar fra Med-PaLM 2, foretrak AI-systemets svar frem for lægernes i 8/9 evalueringskategorier.
Men lægerne fandt også ud af, at Med-PaLM 2 indeholdt noget unøjagtigt eller irrelevant indhold i sine svar, hvilket tyder på, at den måske deler fejl med andre chatbots, som f.eks. med sikkerhed genererer off-topic eller falske udsagn.
Kellie Owens, medicinsk etiker ved NYU Grossman School of Medicine, understregede behovet for, at patienterne bliver oplyst om de nye måder, AI-værktøjer bruger deres sundhedsdata på.
Ideelt set skal "disse samtaler være menneske-til-menneske" mellem patienter og medicinsk personale, sagde Owens.
AI's rolle inden for medicin bliver større og større. Tidligere på ugen blev en AI-model hjalp forskere finde potentielt værdifulde anti-aging-lægemidler, og de første AI-genererede lægemidler er går ind i kliniske forsøg.
