Новый ИИ Meta запросил медицинские данные пользователей и начал давать сомнительные советы

Meta вывела на рынок модель Muse Spark, пообещав более точные ответы о здоровье. Но первые проверки показали тревожную тенденцию: ИИ просит сырые медданные и может ошибаться в рекомендациях.

📋 Обзор

Meta запустила первую генеративную модель своего подразделения Superintelligence Labs — Muse Spark. Пока она доступна через приложение Meta AI, однако в ближайшие недели компания собирается встроить ее во все ключевые сервисы: Facebook, Instagram и WhatsApp. Одним из главных сценариев использования Meta называет ответы на вопросы о здоровье, но первые тесты журналистов показали, что на практике все выглядит гораздо менее убедительно и заметно рискованнее, чем обещает компания.

Что произошло

По данным Meta, Muse Spark создавалась в том числе как инструмент для более качественных ответов по медицинской тематике. В официальном сообщении компания утверждает, что работала более чем с 1000 врачей, которые помогали формировать обучающие данные, чтобы ответы были «более фактическими и полными». На фоне таких заявлений модель протестировали на вопросах, связанных со здоровьем. В ответ бот перечислил стандартные варианты помощи: составление тренировочного плана, подготовка вопросов для врача и другие базовые сценарии. Но особенно выделился другой пункт — прямая просьба прислать личные медицинские показатели.

ИИ Meta предложил пользователю вставить «цифры» из фитнес-трекера, глюкометра или лабораторного отчета, чтобы он мог рассчитать тренды, отметить закономерности и визуализировать данные. В качестве примера бот предложил формат вроде «Вот мои последние 10 измерений артериального давления...». С одной стороны, это выглядит как удобный аналитический сценарий. С другой — речь идет о крайне чувствительной информации, которая в российской практике обычно относится к персональным данным повышенной категории, особенно если ее можно связать с конкретным человеком.

Почему это вызывает вопросы

Главная проблема не только в конфиденциальности, но и в качестве самих рекомендаций. Судя по результатам первых проверок, модель способна выдавать неудачные или попросту плохие советы по вопросам здоровья. Это особенно опасно в ситуации, когда интерфейс ИИ выглядит уверенно и дружелюбно, а пользователь может воспринять ответ как почти профессиональную консультацию. Для обычного человека разница между «информационной справкой» и «медицинской рекомендацией» в чат-боте часто размыта.

Российским пользователям этот риск хорошо понятен на бытовом уровне: одно дело — спросить у нейросети, как структурировать рацион или какие вопросы задать кардиологу перед приемом, и совсем другое — отправить ей результаты анализов, показатели сахара или серию измерений давления в надежде получить интерпретацию, сопоставимую с заключением врача. Даже если система умеет строить графики и выделять тренды, это еще не делает ее медицинским сервисом в полном смысле слова.

Контекст для российского рынка

История с Muse Spark хорошо вписывается в более широкий мировой тренд: крупнейшие технологические компании пытаются превратить ИИ-ассистентов в универсальную точку входа для повседневных задач, включая здоровье и самочувствие. Для российского рынка это тоже актуально. Пользователи уже привыкли к цифровым сервисам записи к врачу, телемедицине, расшифровке анализов и носимым устройствам. Поэтому предложение «просто загрузите данные, а ИИ все объяснит» звучит соблазнительно. Но именно здесь и проходит граница между полезным помощником и потенциально опасным советчиком.

В российской действительности подобные функции неизбежно столкнулись бы с вопросами хранения, обработки и передачи медицинских данных, а также с требованиями к качеству информации в сфере здоровья. Кроме того, есть практический аспект: многие пользователи могут отправлять в такие системы неполные, вырванные из контекста или просто неправильно понятые показатели. Без истории болезни, сопутствующих диагнозов, лекарств и очной оценки врача даже корректные числа нередко говорят не всю правду.

Что это означает для пользователей

Кейс Muse Spark показывает, что маркетинговые обещания вокруг «умных» медицинских ответов нужно воспринимать осторожно. Упоминание тысячи врачей в процессе подготовки данных не гарантирует, что конкретный ответ в чате будет безопасным, точным и уместным. Тем более если система сама подталкивает человека делиться сырыми показателями из лабораторных анализов, тонометров, фитнес-браслетов и глюкометров.

Практический вывод прост: ИИ может быть полезен как инструмент для структурирования информации, составления списка вопросов к специалисту или перевода сложных формулировок на понятный язык. Но интерпретацию результатов обследований и тем более решения о лечении лучше оставлять врачам. Чем активнее Big Tech заходит на территорию цифрового здоровья, тем важнее для пользователей сохранять критическое мышление — даже если чат-бот отвечает быстро, уверенно и очень убедительно.

Итог

Запуск Muse Spark — важный шаг для Meta, которая готовится развернуть модель сразу в нескольких крупнейших платформах. Но вместе с масштабом растет и цена ошибок. Если ИИ, рассчитанный на миллионы пользователей, просит прислать медицинские данные и при этом выдает слабые или сомнительные рекомендации, проблема выходит далеко за рамки обычного сбоя в чат-боте. Для индустрии это очередное напоминание: в теме здоровья доверие зарабатывается не презентациями и громкими обещаниями, а точностью, прозрачностью и реальной ответственностью за последствия советов.