ИИ, который учится взламывать CAPTCHA с каждой попыткой

Визуальные CAPTCHA строятся на простом допущении: если бот не прошёл проверку, он не пройдёт её и в следующий раз. Новое исследование, на которое обратил внимание Брюс Шнайер, показывает, насколько это допущение шатко.

Зрительно-языковые модели (VLM) умеют решать визуальные головоломки без специального обучения, но делают это неэффективно: сотый экземпляр знакомой задачи обходится агенту так же дорого по времени и вычислениям, как и первый. Узкоспециализированные детекторы, наоборот, отвечают за миллисекунды, но только для тех категорий, на которых их обучили. Ни то, ни другое не улучшается от практики.

Детектор, который учится у модели

Авторы объединили дообученный детектор YOLOv8 с открытой VLM, поставив между ними маршрутизатор на основе уверенности. Система работает исключительно по скриншотам и событиям ввода операционной системы — без автоматизации браузера и доступа к DOM. На 16 классах она достигает 85,4% общей и 84,2% усреднённой точности, превосходя каждый компонент по отдельности.

Ключевая идея в том, что каждый ответ VLM служит обучающей меткой. Благодаря этому детектор осваивает категории, которым его никогда не учили, — обычно после одной-двух встреч и без всякой ручной разметки.

Самовосстановление в гонке вооружений

Тот же механизм чинит систему. Оператор CAPTCHA может внести искажения, рассчитанные против публично выложенного детектора, и обрушить его точность до нуля. Но на VLM эти возмущения не действуют, и её метки позволяют детектору восстановиться.

В смоделированной годовой гонке, где оператор каждый месяц заново подбирает искажения, решатель отыгрывается в каждом раунде. Причём дешёвого открытого «учителя» с точностью около 70% достаточно, чтобы закалить систему не хуже идеального оракула.

Вывод исследователей неутешителен для защитников: визуальные CAPTCHA, которые полагаются на то, что однажды проваленная проверка останется непреодолимой, сильно недооценивают, как быстро возвращается адаптивный решатель.

Источник: Schneier on Security