Искусственный интеллект тоже подвержен "загрязнению мозга": как соцсети влияют на обучаемость нейросетей

Новое исследование показывает, что обучение больших языковых моделей на контенте из соцсетей, переполненном хайпом и кликбейтом, приводит к снижению качества и когнитивным искажениям. Проблема актуальна и для России.

📋 Обзор

Подобно тому, как чрезмерное увлечение социальными сетями может негативно сказаться на когнитивных способностях человека, искусственный интеллект, обученный на низкокачественном контенте из тех же источников, рискует столкнуться с аналогичной проблемой. Новое исследование выявило эффект "загрязнения мозга" у больших языковых моделей (LLM), которые вскармливались потоком хайповых постов из Twitter (X) и TikTok.

Основные детали

Исследователи из Техасского университета в Остине, Техасского университета A&M и Университета Пердью провели эксперимент, в ходе которого две языковые модели с открытым исходным кодом проходили предварительное обучение на различных типах текстов. Особое внимание уделялось влиянию высоко "вовлекающего" контента из социальных сетей, содержащего сенсационные заголовки и слова-паразиты, такие как "вау", "посмотри" или "только сегодня". Затем ученые оценили воздействие этой "мусорной" диеты на производительность моделей, используя различные бенчмарки.

Результаты показали, что модели, обученные на социальном мусоре, демонстрируют снижение способности к логическому мышлению, анализу и генерации качественного текста. Они также оказались более восприимчивы к дезинформации и предвзятости. По словам одного из авторов исследования, Джунюаня Хонга, в эпоху, когда информация растет быстрее, чем способность ее осмысливать, важно понимать, как обучение на кликбейтном контенте влияет на развитие искусственного интеллекта.

Значение для России

Проблема "загрязнения мозга" искусственного интеллекта особенно актуальна для России, где рынок социальных сетей активно развивается, а отечественные LLM, такие как YandexGPT и другие, все чаще используются для различных задач, включая генерацию контента, ответы на вопросы и автоматизацию бизнес-процессов. Если эти модели будут обучаться на низкокачественном контенте из российских социальных сетей, таких как ВКонтакте, Одноклассники и Telegram, это может привести к снижению их эффективности и распространению дезинформации.

В России, как и во всем мире, существует проблема фейковых новостей и пропаганды в социальных сетях. Обучение искусственного интеллекта на таком контенте может усилить эти проблемы, сделав модели более склонными к распространению недостоверной информации. Важно разрабатывать стратегии очистки данных и обучать LLM на проверенных и качественных источниках информации, чтобы избежать негативных последствий.

Заключение

Исследование подчеркивает важность критического подхода к данным, используемым для обучения искусственного интеллекта. Разработчикам LLM необходимо учитывать потенциальное влияние низкокачественного контента из социальных сетей и предпринимать шаги для его фильтрации. В противном случае, мы рискуем создать искусственный интеллект, подверженный тем же когнитивным искажениям, что и пользователи социальных сетей, проводящие слишком много времени за скроллингом ленты.