Google убрал ИИ‑сводки по некоторым медицинским запросам

После расследования американского печатника The Guardian, в котором было показано, что ИИ‑сводки, выдаваемые Google в ответ на запросы о здоровье, предоставляют...

📋 Обзор

После расследования американского печатника The Guardian, в котором было показано, что ИИ‑сводки, выдаваемые Google в ответ на запросы о здоровье, предоставляют неверные данные, компания удалила эти обзоры для ряда вопросов, связанных с медициной.

Google убрал ИИ‑сводки по некоторым медицинским запросам В частности, при поиске фразы «нормальный диапазон показателей печёночных биохимических анализов» пользователи раньше получали таблицу, в которой перечислялись только средние значения лиры–лэктики и билирубина. Однако диапазоны, подходящие для конкретного пациента, могут существенно различаться в зависимости от пола, возраста, этнической принадлежности и географического положения. Такая однородная информация, доставляя «унифицированную» статистику, создавала потенциальную рискованную ситуацию: люди могли бы прийти к ошибочным выводам о своем здоровье, не учитывая свои индивидуальные параметры. Компания заявила, что после анализа откликов пользователей и ошибок во внутренних моделях она изменила алгоритм, чтобы выводы выводились в контексте более широкого спектра факторов, а в некоторых случаях полностью убрала I‎I‑сводки. Это решение сочетается с растущим вниманием к точности и персонализации медицинской информации. В России такая практика также вызывает тревогу. В 2024 году Росздравнадзор ввёл новые требования к сайтам, предлагающим медицинскую информацию, к которым предъявляются обязательные стандарты доказательности и персонализации. Строительство гигиенической инфраструктуры в России всё чаще ориентируется на данные о региональных показателях нормы, что и выявлял журнал Power & Health в рунете. Итог: Google отозвал свои упрощенные ИИ‑обзоры, чтобы минимизировать риск дезинформации. При этом условились, что будущие ответы будут включать более полную информацию о контексте, предусматривая, например, разницу между мужчинами и женщинами, а также возрастные группы. Это шаг, подтверждающий растущую тенденцию к повышению ответственности в сфере цифровой медицины, как в США, так и в России.