Как ученые учат искусственный интеллект хвалить их статьи

Научный мир столкнулся с новой угрозой, которая ставит под сомнение саму основу академической честности. Речь идет не о плагиате или подтасовке данных — проблема оказалась куда тоньше и опаснее. Исследователи из ведущих университетов мира начали встраивать в свои работы скрытые команды, адресованные не людям, а алгоритмам, которые участвуют в рецензировании статей. 

Токийские аналитики обнаружили, что в 17 публикациях на платформе arXiv содержатся невидимые инструкции для ИИ. Текст, написанный белым шрифтом или замаскированный под едва различимые символы, содержал прямые указания: хвалить работу, игнорировать недостатки, акцентировать внимание на новизне. В некоторых случаях авторы доходили до абсурда, детально расписывая, какие именно части исследования стоит выделить в рецензии. 

Университеты, чьи сотрудники оказались замешаны в скандале — японский Университет Васэда, южнокорейский KAIST и американский Колумбийский университет — поспешили дистанцироваться от проблемы. В KAIST заявили о пересмотре внутренних стандартов, но ситуация уже вышла за рамки локальных нарушений. 

Почему это тревожно?

Во-первых, это не просто обман — это принципиально новый способ искажения научного процесса. Если раньше фальсификации требовали хотя бы минимальных усилий (подмена данных, замалчивание ошибок), то теперь достаточно спрятать несколько строк кода в PDF-файле. 

Во-вторых, подобные манипуляции подрывают доверие не только к отдельным работам, но и к самой системе рецензирования. Ведь если алгоритмы можно обмануть так легко, кто гарантирует, что другие исследования прошли честную проверку? 

В-третьих, это симптом куда более глубокой проблемы. Ученые, оправдывая свои действия, говорят о «ленивых рецензентах», которые перекладывают анализ на ИИ. Но если даже те, кто создает знания, не верят в объективность системы, что остается науке? 

Пока научное сообщество ищет способы защититься от таких манипуляций, возникает неприятный вопрос: а сколько еще статей содержат невидимые команды, которые мы просто не заметили? И главное — если ИИ становится не инструментом, а полем для манипуляций, не превратится ли наука в игру, где побеждает не истина, а тот, кто лучше обманет алгоритм?