Ifølge en ny undersøgelse glimrer etiske retningslinjer ved deres fravær, når AI fortsætter med at transformere sundhedsvæsenet, fra lægemiddelopdagelse til medicinsk billedanalyse.
Den undersøgelse af Joschka Haltaufderheide og Robert Ranisch fra Potsdam Universitet, offentliggjort i njp Digital Communications, analyserede 53 artikler for at kortlægge det etiske landskab omkring store sprogmodeller (LLM'er) inden for medicin og sundhedspleje.
Den viste, at AI allerede anvendes på tværs af forskellige sundhedsområder, herunder:
- Tolkning af diagnostiske billeder
- Udvikling og opdagelse af lægemidler
- Personlig behandlingsplanlægning
- Triage af patienter og risikovurdering
- Medicinsk forskning og litteraturanalyse
AI's seneste indvirkning på sundhedspleje og medicin er intet mindre end spektakulær.
For nylig, Forskerne byggede en model til tidlig opsporing af Alzheimers, som med 80% nøjagtighed kan forudsige, om en person vil blive diagnosticeret med sygdommen inden for seks år.
Den første AI-genererede lægemidler er allerede på vej til kliniske forsøg, og AI-drevne blodprøver kan opdage kræft ud fra enkelte DNA-molekyler.
Med hensyn til LLM'er, OpenAI og Color Health for nylig annonceret et system til at hjælpe klinikere med kræftdiagnose og -behandling.
Selvom de er fantastiske, skaber disse fremskridt en følelse af svimmelhed. Kan risiciene glide under radaren?
Når forskerne ser specifikt på LLM'er, siger de: "Med introduktionen af ChatGPT har Large Language Models (LLM'er) fået enorm opmærksomhed i sundhedssektoren. På trods af potentielle fordele har forskere understreget forskellige etiske implikationer."
På fordelssiden: "Fordelene ved at bruge LLM'er tilskrives deres kapacitet inden for dataanalyse, tilvejebringelse af information, støtte til beslutningstagning eller afbødning af informationstab og forbedring af informationstilgængeligheden."
Men de fremhæver også store etiske bekymringer: "Vores undersøgelse identificerer også tilbagevendende etiske bekymringer i forbindelse med retfærdighed, bias, ikke-maleficence, gennemsigtighed og privatliv. En særlig bekymring er tendensen til at producere skadeligt eller overbevisende, men unøjagtigt indhold."
Dette spørgsmål om "hallucinationer", hvor LLM'er genererer plausible, men faktuelt forkerte oplysningerer særligt bekymrende i sundhedssammenhæng. I værste fald kan det resultere i forkerte diagnoser eller behandlinger.
AI-udviklere kan ofte ikke forklare, hvordan deres modeller fungerer, kendt som "Problem med sort boks", så denne fejlagtige adfærd er usædvanligt vanskelig at rette.
Undersøgelsen giver anledning til alarmerende bekymringer om bias i LLM'erog bemærker: "Fordomsfulde modeller kan resultere i uretfærdig behandling af dårligt stillede grupper, hvilket fører til forskelle i adgang, forværrer eksisterende uligheder eller skader personer gennem selektiv nøjagtighed."
De nævner et specifikt eksempel på, at ChatGPT og Foresight NLP viser racistiske fordomme over for sorte patienter. A nyligt Yale-studie fandt racemæssig skævhed i ChatGPT's håndtering af røntgenbilleder, når de fik racemæssige oplysninger om scanningerne.
LLM-bias over for minoritetsgrupper er velkendt og kan have snigende konsekvenser i en sundhedskontekst.
Bekymringer om privatlivets fred er en anden risiko: "Behandling af patientdata rejser etiske spørgsmål om fortrolighed, privatlivets fred og datasikkerhed."
Når det gælder håndtering af risici, er menneskeligt tilsyn altafgørende. Forskerne opfordrer også til at udvikle universelle etiske retningslinjer for kunstig intelligens i sundhedssektoren for at forhindre, at der opstår skadelige scenarier.
Det AI-etiske landskab i sundhedsvæsenet udvider sig hurtigt i takt med, at gennembruddene bliver ved med at komme.
For nylig lancerede over 100 førende forskere et frivilligt initiativ, der skitserer sikkerhed regler for AI-proteindesign, Det understreger, at teknologien ofte bevæger sig for hurtigt til, at sikkerheden kan følge med.
