На конференции ICLR-2026, одной из ведущих в области машинного обучения, произошел неожиданный инцидент. Исследование Pangram Labs показало, что около 21% рецензий на статьи полностью созданы с помощью искусственного интеллекта, а более половины содержат следы его участия. Ошибка на платформе OpenReview открыла имена рецензентов, что нарушило принцип двойного слепого рецензирования. Pangram проанализировала 76 тысяч отзывов и выявила, что 21% из них — полностью автоматизированные. В то же время, почти двести публикаций были написаны ИИ. Обсуждение в китайском ИИ-сообществе разгорелось после того, как стало известно о возможности раскрытия имен рецензентов. В ответ ICLR ввела санкции за утечку данных, а OpenReview закрыла уязвимость. Конференция разработала новую политику, требующую раскрытия использования ИИ в статьях и рецензиях. Ситуация с ICLR-2026 показывает, что научное рецензирование не успевает за развитием технологий.
Вопрос-ответ
Что произошло на ICLR-2026 и какова роль Pangram Labs?
На ICLR-2026 Pangram Labs выявила, что около 21% рецензий полностью сгенерированы ИИ, а более половины содержат следы участия ИИ. Также произошла утечка имен рецензентов из-за ошибки на платформе OpenReview, что нарушило двойное слепое рецензирование. Исследование охватило 76 тысяч отзывов; около 21% из них полностью автоматизированы, и почти две сотни публикаций были написаны ИИ.
Какие меры предприняли организаторы и платформа OpenReview?
ICLR ввела санкции за утечку данных и нарушение конфиденциальности рецензентов, а OpenReview закрыла уязвимость, обеспечив защиту данных и исправление процесса двойного слепого рецензирования. Конференция разработала новую политику, требующую раскрытия использования ИИ в статьях и рецензиях.
Какова реакция сообщества и какие изменения ожидаются в политике научной коммуникации?
После утечки и обнаружения возможности раскрытия имен рецензентов китайское ИИ-сообщество обсуждало эскалацию вопросов этики и прозрачности. Ожидаются требования к явному раскрытию использования ИИ в рукописях и обзоре, повышение прозрачности рецензирования и возможные новые стандарты в публикациях и рецензиях, включая аудит ИИ-помощи.