Искусственный интеллект без страховки: Чат-боты перестали предупреждать об опасности медицинских советов

Исследование показало, что AI-платформы все реже включают предупреждения о недостоверности медицинской информации, предоставляемой чат-ботами. Это повышает риск доверия к потенциально опасным советам.

📋 Обзор

Многие компании, разрабатывающие системы искусственного интеллекта, отказались от практики добавления медицинских дисклеймеров и предупреждений при ответах на вопросы, касающиеся здоровья. Новое исследование показывает, что ведущие AI-модели не только отвечают на вопросы о здоровье, но и задают уточняющие вопросы, а также пытаются поставить диагноз. Это вызывает серьезные опасения, так как отсутствие дисклеймеров может привести к тому, что пользователи будут больше доверять небезопасным медицинским советам.

Основные детали

Исследование, проведенное стипендиатом программы Фулбрайта в Стэнфордской медицинской школе Сонали Шарма, выявило тревожную тенденцию. В 2023 году, оценивая способность AI-моделей интерпретировать маммограммы, Шарма заметила, что модели всегда включали дисклеймеры, предостерегающие от доверия к их медицинским заключениям. Некоторые модели даже отказывались интерпретировать изображения, заявляя: «Я не врач». Однако в этом году дисклеймеры исчезли. Для дальнейшего изучения этого вопроса Шарма протестировала различные поколения моделей, разработанных OpenAI, Anthropic, DeepSeek, Google и xAI, начиная с 2022 года, задав им 500 вопросов о здоровье, касающихся, например, совместимости лекарств и методов лечения различных заболеваний.

Значение для России

В России, где телемедицина и онлайн-консультации с использованием AI-помощников набирают популярность, эта тенденция особенно опасна. Многие россияне, особенно в отдаленных регионах, могут рассматривать AI-чат-ботов как доступную альтернативу квалифицированной медицинской помощи. Отсутствие четких предупреждений о том, что ответы AI не являются заменой консультации с врачом, может привести к неправильному самолечению и ухудшению здоровья. Отечественным разработчикам AI-медицинских платформ следует учесть этот опыт и внедрить строгие правила по обязательному включению дисклеймеров и предупреждений об ограничениях AI в медицинской сфере. Примером может служить опыт СберЗдоровье, который активно использует AI в своих сервисах, но должен быть особенно внимателен к рискам, связанным с отсутствием медицинских предупреждений.

Заключение

Исследование подчеркивает необходимость более строгого регулирования использования AI в медицине и обязательного включения дисклеймеров и предупреждений. Это поможет защитить пользователей от потенциально опасных медицинских советов и сохранить доверие к AI в целом. Разработчикам и регуляторам во всем мире, включая Россию, необходимо принять меры для обеспечения безопасности и надежности AI-медицинских сервисов.

🌟 Ключевые моменты

🤔 Экспертное мнение