Apple testet seinen Gesundheits-Chatbot zu Recht vor dem vollen Start
Apple testet einen Gesundheits-Chatbot an bis zu 200.000 Personen, bevor er als Produkt auf den Markt kommt. Unserer Ansicht nach sollte der Rest der Branche diesem Beispiel folgen.

Bis zu 200.000 Amerikaner können nun einer Apple-App Fragen zu ihrer Gesundheit stellen, ohne dabei ein Produkt zu kaufen. Sie nehmen an einer Forschungsstudie teil. Unserer Ansicht nach ist dies der richtige Weg, Chatbots in der Medizin einzusetzen, und die übrige Branche sollte diesem Beispiel folgen.
Die Studie wurde am 15. November in den Vereinigten Staaten in Zusammenarbeit mit einem Unternehmen für klinische KI gestartet, das bereits von vielen Ärzten genutzt wird. Das Unternehmen OpenEvidence stützt seine Antworten auf medizinische Fachzeitschriften wie das New England Journal of Medicine, JAMA und Nature. Jede Antwort enthält Links zu den zugrundeliegenden Studien.
Teilnehmer können optional Daten aus Apple Health freigeben, beispielsweise Ruhepuls, Schlafdaten oder Laborwerte. Apple möchte herausfinden, ob diese persönlichen Daten die Antworten aussagekräftiger machen. Teilnahmeberechtigt sind Personen ab 21 Jahren mit einem iPhone 15 Pro oder einem neueren Modell.
Was Apple lernen möchte
Apple gibt an, vier Dinge zu messen: ob die Nutzer den Antworten vertrauen, wie gut die Antworten sind, ob die Nutzer sie verstehen und wie sie darauf reagieren. Die Teilnehmer bewerten die Antworten und füllen monatliche Umfragen aus. Laut einem Bericht zu ihrem Start soll die Studie über mehr als 12 Monate laufen.
Auch Apple spricht offen über das Risiko. “Verbrauchergesundheitstechnologien, die auf LLMs basieren, können mitunter unvollständige oder unklare Antworten liefern”, heißt es in der Mitteilung. LLMs, oder große Sprachmodelle, sind die Technologie hinter Chatbots wie ChatGPT.
Die Datenschutzbestimmungen sind streng. Studiendaten werden nicht zum Trainieren von KI-Modellen verwendet. Laut TechCrunch werden die Daten von Apple anonymisiert, bevor sie an einen externen Cloud-Anbieter gesendet werden, und OpenEvidence löscht Fragen und Antworten nach 24 Stunden.
Die meisten Gesundheits-Chatbots haben diesen Schritt übersprungen
Laut Angaben des Herstellers vom Januar stellen mehr als 230 Millionen Menschen jede Woche Fragen zu Gesundheit und Wohlbefinden an den beliebtesten Chatbot. Diese Zahl bezieht sich nur auf ChatGPT. Im Juli eröffnete OpenAI in der App einen separaten Gesundheitsbereich für Nutzer in den USA ab 18 Jahren.
OpenAI hat seine Modelle anhand eines Benchmarks getestet, einem festgelegten Fragenkatalog, der wie eine Prüfung bewertet wird. Er bewertet die Antworten auf 5.000 realistische Gesundheitsgespräche anhand von Regeln, die von 262 Ärzten verfasst wurden. Ein Test wie dieser kann zeigen, ob eine Antwort korrekt ist. Er kann jedoch nicht aufzeigen, ob die betroffene Person die Antwort verstanden hat oder ob sie anschließend einen Arzt konsultiert hat. Genau diese Frage versucht Apples Studie zu beantworten.
Wo die Studie Schwächen aufweist
Die Studie hat ihre Grenzen. Nur Besitzer eines aktuellen High-End-iPhones können teilnehmen, daher lassen die Ergebnisse wenig Rückschlüsse auf Menschen zu, denen der Arztbesuch besonders schwerfällt. Die Ankündigung enthält außerdem keine Angaben dazu, ob und wann Apple die Ergebnisse veröffentlichen wird.
Die Seite der App im App Store liest sich jedoch wie eine Werbung. Der Eintrag lädt die Nutzer dazu ein, der App all ihre Gesundheitsfragen zu stellen und Trainings- oder Ernährungspläne zu erstellen. Darin heißt es außerdem, dass weder die App noch die Studie medizinische Ratschläge, Diagnosen oder Behandlungen anbieten.
Dennoch ist die Reihenfolge richtig: Erst testen, dann verkaufen. Letzte Woche argumentierten wir, dass Menschen ihre Privatsphäre nicht aufgeben sollten, um einen KI-Assistenten zu nutzen. Die Nutzungsbedingungen von Apple zeigen, dass strenge Beschränkungen möglich sind: Die Daten werden nicht zum Trainieren von KI verwendet, und die Fragen werden nach 24 Stunden gelöscht.
Warum das wichtig ist: Hunderte Millionen Menschen befragen wöchentlich Chatbots zu ihrer Gesundheit, doch es gibt kaum öffentlich zugängliche Belege dafür, ob ihnen diese Antworten tatsächlich helfen. Eine so umfangreiche Studie könnte diese Belege liefern – allerdings nur, wenn Apple die Ergebnisse veröffentlicht.


