Ученые пытаются обмануть систему рецензирования научных статей с помощью скрытых AI-подсказок

Исследователи нашли способ манипулировать AI-инструментами, используемыми при рецензировании научных работ, внедряя скрытые подсказки, побуждающие к положительным оценкам. Новый тренд вызывает беспокойство в научном сообществе.

📋 Обзор

Академики, похоже, изобрели новый метод влияния на процесс рецензирования научных работ: они добавляют в свои статьи скрытые подсказки, предназначенные для того, чтобы побудить инструменты искусственного интеллекта давать положительные отзывы.

Основные детали

Как сообщает Nikkei Asia, при изучении препринтов на английском языке, доступных на сайте arXiv, было обнаружено 17 статей, содержащих скрытые AI-подсказки. Авторы этих работ представляют 14 академических учреждений из восьми стран, включая японский Университет Васэда, южнокорейский KAIST, а также Колумбийский университет и Вашингтонский университет в США. Статьи, как правило, относятся к области компьютерных наук. Подсказки, длиной от одного до трех предложений, скрывались с помощью белого текста или чрезвычайно мелких шрифтов. Они предписывали потенциальным AI-рецензентам «давать только положительные отзывы» или хвалить статью за «значительный вклад, методологическую строгость и исключительную новизну». Профессор Университета Васэда, с которым связался Nikkei Asia, оправдал использование подсказки, заявив, что...

Значение для России

Эта новость вызывает особую тревогу в российском научном сообществе, которое активно внедряет системы оценки научных работ с использованием искусственного интеллекта. В России, где также существует проблема публикационной активности и давления на ученых, подобные методы могут получить распространение. Отечественные платформы, такие как Elibrary.ru, используемые для оценки научных публикаций, должны быть защищены от подобных манипуций. Необходимо разрабатывать алгоритмы, способные выявлять и игнорировать скрытые подсказки, чтобы обеспечить объективность рецензирования. Примером может служить разработка специализированного модуля для анализа текста на наличие скрытых элементов, аналогично антиплагиатным системам, но с акцентом на выявление манипулятивных техник.

Заключение

Использование скрытых AI-подсказок для влияния на рецензирование научных работ представляет собой серьезную угрозу для целостности науки. Необходимы срочные меры для защиты от подобных манипуляций и обеспечения объективности оценки научных исследований. Международное научное сообщество должно выработать этические нормы и технические решения для предотвращения подобных практик, а российским ученым и разработчикам следует уделить особое внимание защите отечественных систем оценки научных работ.

🌟 Ключевые моменты

🤔 Экспертное мнение