Apple правильно делает, что сначала тестирует чат-бота для здоровья
Компания Apple тестирует чат-бота для здоровья на группе до 200 000 человек, прежде чем превратить его в готовый продукт. На наш взгляд, остальной части отрасли следует последовать её примеру.

До 200 000 американцев теперь могут задавать вопросы о своем здоровье приложению Apple, и никто из них не покупает продукт. Они участвуют в исследовательском проекте. На наш взгляд, это правильный путь внедрения чат-ботов в медицину, и остальная часть отрасли должна последовать этому примеру.
Исследование началось в Соединенных Штатах 15 ноября в партнерстве с компанией, занимающейся клиническим искусственным интеллектом, продукцию которой уже используют многие врачи. Компания OpenEvidence формирует свои ответы на основе медицинских журналов, таких как The New England Journal of Medicine, JAMA и Nature. Каждый ответ сопровождается ссылками на исследования, лежащие в его основе.
Участники могут по желанию делиться данными из Apple Health, такими как частота сердечных сокращений в состоянии покоя, качество сна или результаты анализов. Apple хочет выяснить, делают ли эти персональные данные ответы более полезными. Для участия необходимо быть старше 21 года и иметь iPhone 15 Pro или более позднюю модель.
Что хочет узнать Apple
Компания Apple заявляет, что будет измерять четыре параметра: насколько люди доверяют ответам, насколько хороши ответы, понимают ли люди их и что они делают дальше. Участники оценивают ответы и заполняют ежемесячные опросы. Согласно отчету о начале исследования, его продолжительность должна составить более 12 месяцев.
Компания Apple также откровенно говорит о рисках. “Потребительские медицинские технологии, использующие большие языковые модели, иногда могут давать неполные или нечеткие ответы”, — говорится в заявлении компании. Большие языковые модели — это технология, лежащая в основе чат-ботов, таких как ChatGPT.
Условия конфиденциальности строгие. Данные исследования не будут использоваться для обучения моделей ИИ. Apple заявляет, что данные анонимизируются перед отправкой стороннему облачному провайдеру, а OpenEvidence удаляет вопросы и ответы через 24 часа, сообщает TechCrunch.
Большинство медицинских чат-ботов пропускали этот шаг
По данным его создателя, в январе более 230 миллионов человек еженедельно задают вопросы о здоровье и благополучии через самый популярный чат-бот. Эти данные относятся только к ChatGPT. В июле OpenAI открыла в приложении отдельный раздел о здоровье для пользователей из США в возрасте 18 лет и старше.
Компания OpenAI протестировала свои модели с помощью эталонного набора вопросов, оцениваемых по аналогии с экзаменационными заданиями. Этот тест оценивает ответы на 5000 реалистичных бесед о здоровье по правилам, составленным 262 врачами. Подобный тест может показать, насколько точен ответ. Он не может показать, понял ли обеспокоенный человек ответ или обратился ли он впоследствии к врачу. Именно на этот вопрос пытается ответить исследование Apple.
В чём заключаются недостатки исследования
У исследования есть ограничения. В нем могут участвовать только владельцы современных высококлассных iPhone, поэтому результаты могут мало что сказать о людях, которым сложнее всего попасть на прием к врачу. В объявлении также не говорится, опубликует ли Apple результаты исследования и когда это произойдет.
Однако страница приложения в App Store выглядит как реклама. В описании приложения пользователям предлагается задавать все интересующие их вопросы о здоровье, а также составлять планы тренировок или питания. В нем также говорится, что ни приложение, ни исследование не предоставляют медицинских рекомендаций, диагнозов или методов лечения.
Тем не менее, порядок действий правильный: сначала протестировать, а потом продавать. На прошлой неделе мы утверждали, что людям не следует отказываться от своей конфиденциальности ради использования ИИ-помощника. Условия Apple показывают, что строгие ограничения возможны: данные не используются для обучения ИИ, а вопросы удаляются через 24 часа.
Почему это важно: Сотни миллионов людей уже еженедельно обращаются к чат-ботам с вопросами о своем здоровье, и в открытом доступе практически нет доказательств того, помогают ли им эти ответы. Исследование такого масштаба могло бы предоставить такие доказательства, но только если Apple опубликует результаты.


