Исследователи из SPLX провели эксперимент, в котором выяснили, что ChatGPT можно обмануть с помощью специально подготовленных подсказок для решения CAPTCHA-тестов, задач, которые долгое время считались доступными только человеку. Это ставит под сомнение эффективность механизмов, используемых для защиты сайтов от спама и автоматизированных атак.
CAPTCHA изначально предназначались для подтверждения, что пользователь является человеком. Однако, как показали результаты исследования, крупная языковая модель может успешно справляться с такими проверками. Команда, возглавляемая Дорианом Шульцем, смогла убедить нейросеть участвовать в решении тестов, при этом она показала высокие результаты в логических задачах и распознавании текста, хотя с изображениями возникли некоторые трудности.
Эксперимент SPLX подчеркивает, что традиционные механизмы защиты, такие как CAPTCHA, становятся менее надежными в условиях быстрого развития ИИ. В то же время, OpenAI не прокомментировала ситуацию, хотя случаи обхода ограничений через инъекцию промптов были зафиксированы ранее.