Эксперт Facebook разрабатывает систему модерации контента для эпохи ИИ

Бретт Левенсон, бывший руководитель бизнес-интегритета Facebook, работает над решением проблемы модерации контента в социальных сетях с помощью ИИ

📋 Обзор

Бретт Левенсон, бывший руководитель бизнес-интегритета Facebook, столкнулся с серьезной проблемой модерации контента после ухода из Apple в 2019 году. В то время социальная сеть переживала скандал с Cambridge Analytica, и Левенсон считал, что сможет решить проблему модерации контента с помощью лучшей технологии. Однако он быстро понял, что проблема была глубже, чем просто технологии.

Основные детали

Левенсон рассказал, что человеческие модераторы должны были запоминать 40-страничный документ политики, переведенный машинным переводом на их язык. Затем у них было около 30 секунд на каждую помеченную публикацию, чтобы решить, не только нарушает ли она правила, но и что с ней делать: заблокировать, запретить пользователю или ограничить распространение. Эти быстрые решения были apenas лучше 50% точными, согласно Левенсону.

Значение для России

Проблема модерации контента актуальна и для российских социальных сетей. Рост ИИ-чатботов только усугубил проблему, поскольку неудачи в модерации контента привели к ряду громких инцидентов. В России также есть свои собственные проблемы с модерацией контента, связанные с распространением фейковых новостей и дезинформации.

Заключение

Левенсон считает, что традиционный подход к модерации контента, основанный на человеческих модерациях, больше не является устойчивым в мире, где враждебные акторы используют ИИ для распространения дезинформации. Разработка систем модерации контента для эпохи ИИ является насущной необходимостью для социальных сетей, и работа Левенсона в этой области может стать важным шагом в решении этой проблемы.