Внутренний рынок, создающий кастомные AI‑deepfakes реальных женщин

С недавним ростом популярности искусственно созданных видео, библиотека Civitai, попросту крупнейшая онлайн‑площадка, где люди покупают и продают изображения, с...

📋 Обзор

С недавним ростом популярности искусственно созданных видео, библиотека Civitai, попросту крупнейшая онлайн‑площадка, где люди покупают и продают изображения, созданные нейросетями, стала ареной для ещё более спорной практики. Стартап, возглавляемый инвесторами Andreessen Horowitz, позволяет пользователям приобретать «инструкционные файлы»—настройки, которые разрабатывают модели Stable Diffusion и подобные технологии под конкретный запрос.

Внутренний рынок, создающий кастомные AI‑deepfakes реальных женщин Исследователи Стэнфордского университета и Университета Индианы проанализировали 27 000 запросов на Civitai, в ходе чего выявили, что почти 6 % от них содержали команды, явно ориентированные на создание порнографических сцен. Эти файлы не просто добавляют атрибуты «спекулятивного» характера; они напрямую нарушают правила площадки, предусматривающие полную запрещённость контента с откровенными сексуальными действиями. Cronet‑журналисты столкнулись с тем, как пользовательские инструкции, которые в принципе могут создать реалистичную видеоигровую персонажу, превращаются в средство для искажения реальных женщин в поддельных порно‑шаблоны. Система Civitai в значительной степени опирается на модель Server‑Side Generation, где пользователи загружают сгенерированный контент и продают ключи доступа к специфическому «шаблону». Эти ключи могут быть проданы, как лицензии, позволяющие «настроить» нейросеть таким образом, чтобы она генерировала изображения женщин, «сопоставимых» с реальными лицами, но в целой линии разного жанра, от рекламных образов до порнографии. Само действие – взятие шаблона, подгонки параметров, под инициализацию – может быть реализовано за несколько минут, при этом скрываясь под одобрительными рамками коммерческого продукта. В России аналогичные сервисы появляются всё быстрее. Платформы вроде «ЛингваИИ» или «ВизуалКод», которые также принимают заказы на генерацию фотографий и видео, часто получают инструкции, которые совместятся с ТОП 1 в сфере аниме-стилевых кастомных проектов. При этом без четкого контроля за тем, где и как применяется производимый контент, риск порнографизации растёт даже без прямого участия стороннего стороны. Собранные данные подчеркивают, что контроль над генеративным контентом выходит далеко за рамки простого модерационного надзора. Внутренний рынок, работающий на платёжных шлюзах и частных соглашениях, вынуждает компании задуматься о лицензировании техники и возможном юридическом сопровождении условий. Карточки, описанные в исследовании, часто включали в себя фразы вроде «принципиальная настройка качества ближе к 4k», «обеспечение синхронизации движений модели с пользовательским сценарием». Подобающиеся предложения свидетельствуют о целенаправленном стремлении добиться максимальной правдоподобности генерации, что критически важно для порнографических материалов, которые, как правило, требуют высокой степени реалистичности, чтобы преодолеть общественное осуждение. Текущие регуляторы в России говорят о возможности необходимости усиления контроля над технологическими платформами, особенно с учётом недавно введённого закона о защите персональных данных и борьбы с киберпреступностью. Прозрачность работы со сторонними разработчиками, которые создают шаблоны, станут ключом к предотвращению разрастания проблемы. Тем самым конкретный случай Civitai подчеркивает непроигрываемый характер глобального пула интересов, касающихся генеративного ИИ. Он открывает новый разговор о том, какими механизмами должны управлять виртуальные миры при защите прав частных лиц. Самой надёжной практикой будет постепенное внедрение обязательных аудитов, а также установление чётких юридических рамок, зависимых от типа контента и конкретных сценариев его использования.