Google делает шаг навстречу борьбе с дипфейками: приложение Gemini теперь может определять, было ли изображение сгенерировано или отредактировано с использованием инструментов искусственного интеллекта Google. Это важный шаг в условиях растущей обеспокоенности по поводу распространения дезинформации, созданной ИИ.

Основные детали

Начиная с сегодняшнего дня, пользователи Gemini могут просто спросить приложение: «Это сгенерировано ИИ?», чтобы получить ответ об источнике изображения. На первом этапе функция работает только с изображениями, созданными или измененными ИИ Google. Однако компания обещает в скором времени расширить возможности Gemini для распознавания AI-контента в видео- и аудиоформатах. В перспективе планируется интеграция этой функции в поисковую систему Google, что позволит пользователям проверять подлинность контента непосредственно в результатах поиска.

Первоначально проверка изображений основывается на SynthID – невидимом водяном знаке, разработанном Google для идентификации AI-контента. В дальнейшем Google планирует перейти к поддержке общепринятого стандарта C2PA (Content Authenticity Initiative), что позволит определять происхождение контента, созданного различными платформами и инструментами. Это существенно расширит возможности Gemini по борьбе с дипфейками, поскольку позволит отслеживать источник контента, даже если он был создан не в Google.

Значение для России

В России проблема дипфейков стоит так же остро, как и во всем мире. Распространение сгенерированных ИИ изображений и видео может использоваться для дезинформации, мошенничества и дискредитации. Внедрение технологии распознавания AI-контента в Gemini и, в перспективе, в поисковую систему Google, может стать полезным инструментом для российских пользователей, помогая им отличать реальный контент от подделок. Аналогичные разработки ведутся и в России, например, компания «Сбер» активно разрабатывает собственные технологии для борьбы с дипфейками.

Представьте ситуацию: в преддверии выборов в России в социальных сетях появляется дипфейк с участием известного политика. Благодаря технологии Google Gemini, пользователи смогут быстро проверить подлинность видео и избежать распространения ложной информации. Или, например, мошенники используют сгенерированное ИИ изображение для обмана пользователей в онлайн-играх, таких как World of Tanks или War Thunder. Функция распознавания AI-контента поможет игрокам выявлять поддельные профили и защитить свои аккаунты.

Заключение

Google Gemini делает важный шаг в борьбе с дипфейками, предлагая пользователям инструмент для проверки подлинности контента. Расширение этой функциональности на видео, аудио и поисковую систему, а также поддержка стандарта C2PA, сделают Gemini еще более эффективным в борьбе с дезинформацией. Для России это означает появление еще одного инструмента, помогающего пользователям ориентироваться в потоке информации и отличать правду от вымысла, созданного искусственным интеллектом. Развитие подобных технологий – ключевой фактор в поддержании доверия к информации в цифровую эпоху.