Новости технологий: LLMs’ impact on — 19.12.2025

Искусственный интеллект и его роль в современной научной деятельности стали предметом горячих дискуссий. Особенно ярко это проявилось за последний год, когда вс...

📋 Обзор

Искусственный интеллект и его роль в современной научной деятельности стали предметом горячих дискуссий. Особенно ярко это проявилось за последний год, когда все чаще появляются новости о публикациях в научных журналах, оказавшихся результатом автоматизированного «писательства» или даже полностью сгенерированными ИИ текстами. За последние две недели в нескольких популярных изданиях пришлось отзывать статьи после выявленных ошибок, зачастую связанных с использованием средств искусственного интеллекта — ситуация, которая вызывает настороженность в научном сообществе.

Объем публикаций, созданных при помощи больших языковых моделей (LLMs — large language models), действительно вырос в геометрической прогрессии. Многие исследователи, в том числе и российские ученые, начали активно применять GPT- или подобные технологии для быстрого формирования черновиков, обзоров литературы или даже для генерации частей статей. На первый взгляд, это кажется отличным способом ускорить работу и снизить бюрократическую нагрузку, но возник вопрос: насколько выросло качество этих публикаций?

На фоне массового роста количества публикаций наблюдается заметное снижение стандарта проверки их содержания. Некоторые журналы, особенно менее строгие или низкочастотные, зачастую не уделяют должного внимания качеству рецензирования. Упор делается на количественный показатель — чем больше статей, тем лучше репутационный рейтинг издания, что вызывает опасения относительно ситуации в целом. В результате появляется «каша» из текста, насыщенного штампами, бессмысленными фразами и даже явными ошибками, которые нередко пропускаются при рецензировании. Примеры, связанные с российской наукой, вполне актуальны. В недавнем интервью российский ученый-биотехник рассказывал о том, как его коллеги-исследователи начинают применять ИИ для быстрого составления уводных частей статей или автоматического подбора статистических методов. Но при этом качество конечного продукта не всегда соответствует требованиям добросовестной науки. В некоторых случаях публикации с использованием ИИ оказываются откровенно слабого уровня, что вызывает критику со стороны авторитетных научных журналов и комитетов по этике. Многие эксперты обеспокоены тем, что быстрое увеличение числа публикаций с помощью ИИ рискует размыть границы научной оценки и привести к тому, что наука станет больше похожа на бессмысленный поток данных, чем на систему, которая по-настоящему движется вперед. В России в последнее время происходит активное внедрение автоматизированных систем оценки научных результатов, однако применение подобных технологий в неподготовленных руках лишь усугубляет проблему калибра и доверия к научному контенту. В целом, ситуация напоминает сценарий ранних эпох цифровизации: быстрый поток информации, поражающий своей масштабностью, часто сопровождается потерей качества и опасными ошибками. Для российской науки важно не только активно развивать полномасштабное использование искусственного интеллекта для ускорения исследований, но и усиленно заботиться о стандартах проверки и этике публикаций. Иначе есть риск оказаться в ситуации, когда количество научных публикаций растет, а их ценность — стагнирует, что в конечном итоге разрушит доверие к отечественным научным достижениям. Следует держать баланс: технологический прогресс не должен превращаться в гонку за количественными показателями, а стать инструментом повышения качества и надежности знаний. В противном случае все усилия могут оказаться напрасными, а научное сообщество — потерять веру в публикации, выполненные при помощи самых современных технологий.