Во всем мире школьники используют ИИ-приложения для создания фальшивых интимных фото одноклассниц. Масштаб проблемы оказался значительно больше, чем считалось.
📋 Обзор
Проблема сексуализированных дипфейков в школах быстро вышла далеко за пределы единичных скандалов. По данным анализа WIRED и издания Indicator, с 2023 года публично сообщалось примерно о 90 инцидентах в школах по всему миру, затронувших более 600 учащихся. В большинстве случаев подростки, чаще всего старшеклассники-мальчики, скачивают обычные фотографии знакомых девочек из Instagram, Snapchat и других соцсетей, а затем с помощью так называемых nudify-приложений генерируют фальшивые обнаженные изображения или видео.
Основные детали
Если еще пару лет назад подобные случаи воспринимались как редкость, то сегодня ситуация стала заметно серьезнее: инструменты генеративного ИИ стали дешевле, проще и доступнее. В результате интимные дипфейки начали распространяться по школьным чатам, мессенджерам и локальным сообществам буквально за часы, а иногда и минуты. Для пострадавших это означает не просто травлю, а глубокое чувство унижения, страха и беспомощности. Многие опасаются, что такие изображения будут преследовать их годами.
Согласно обзору, обвинения в создании сексуализированных дипфейков одноклассников и одноклассниц зафиксированы как минимум в 28 странах. Речь идет о контенте с участием несовершеннолетних, а значит такие материалы в ряде юрисдикций квалифицируются как материалы сексуализированного насилия над детьми. Это важный юридический момент: даже если изображение сгенерировано нейросетью и не является «реальной» фотографией, последствия для жертвы и для правоохранительной оценки могут быть крайне тяжелыми.
Типичный сценарий начинается с фотографии, опубликованной самой школьницей в соцсетях. Дальше изображение загружается в сервис, который обещает «раздеть» человека на снимке. Итоговый файл затем пересылается друзьям, публикуется в закрытых чатах или становится инструментом давления, шантажа и издевательств. По сути, генеративный ИИ снизил порог входа в цифровое насилие: то, что раньше требовало специальных навыков редактирования, теперь делается в несколько нажатий.
Почему это важно для России
Для российской аудитории эта тема особенно актуальна, даже если громких публичных кейсов у нас пока меньше, чем на Западе. Российские школьники так же активно пользуются мессенджерами, короткими видео, а также публикуют фотографии в открытом доступе. Достаточно вспомнить, как быстро по школьным чатам расходятся мемы, слухи и компрометирующие изображения: с ИИ-инструментами этот механизм становится еще опаснее. Если раньше цифровая травля ограничивалась фотожабами и публикацией личной переписки, то теперь она может принимать форму фальшивого интимного контента, который визуально выглядит убедительно.
Для школ, родителей и региональных органов образования это означает необходимость пересматривать подходы к цифровой безопасности. Одних разговоров о «поведении в интернете» уже недостаточно. Нужны понятные протоколы: как быстро фиксировать факт распространения, куда обращаться, как взаимодействовать с платформами, психологами и правоохранительными органами. Не менее важно объяснять подросткам, что «это же не настоящее фото» не отменяет причиненного вреда.
Российский контекст также добавляет еще один слой проблемы: многие семьи и школы недостаточно готовы к разбору инцидентов, связанных именно с генеративным ИИ. Учителя могут не понимать, как отличить дипфейк от реального изображения, родители — недооценивать масштаб травмы, а сами подростки — не осознавать, что участие в создании и пересылке таких файлов может иметь не только дисциплинарные, но и правовые последствия.
Что показывает мировой опыт
Судя по международной картине, проблема не ограничивается одной страной, типом школы или конкретной платформой. Это глобальный феномен, возникший на стыке доступного ИИ, подростковой среды и слабой цифровой грамотности. Поскольку изображения создаются на основе реальных лиц и телесных ассоциаций, жертвы воспринимают их как форму сексуального насилия, даже если исходный файл был синтетическим. И именно это делает нынешний кризис намного глубже, чем обычные споры о «вреде нейросетей».
Еще один важный вывод: реагировать нужно не постфактум, когда изображения уже разошлись по чатам, а заранее. Международные эксперты все чаще говорят о необходимости запрета или жесткого ограничения сервисов, которые рекламируются как инструменты для «раздевания» людей по фото. Параллельно требуется обучение школьных психологов, классных руководителей и самих детей. Иначе генеративный ИИ рискует стать для школы тем же, чем когда-то стали массовые анонимные группы для травли, только в гораздо более жесткой форме.
Заключение
История с «раздевающими» дипфейками показывает, что генеративный ИИ несет не только удобство и новые творческие возможности, но и масштабные социальные риски. По данным WIRED и Indicator, речь уже идет примерно о 90 школах по всему миру и более чем 600 пострадавших учениках, причем реальные цифры могут быть выше, поскольку далеко не все случаи становятся публичными. Для России это предупреждение: школам, семьям и цифровым платформам нужно готовиться к такой угрозе уже сейчас, а не после первых крупных скандалов.
Источник: Аналитические данные и отраслевые отчеты
Следите за новостями технологий в нашем Telegram-канале и не пропускайте важные обновления!
Источник: wired.com