Узор против слежки: как обмануть камеры распознавания

Специалист по кибербезопасности Билл Сверинген почти год повторял один и тот же эксперимент — в общей сложности около 31 миллиона раз. Его цель заключалась в том, чтобы получить сгенерированный компьютером узор, который не позволял бы уличным камерам распознавать то, что этим узором закрыто. Проект он назвал noRecognition.

Важный нюанс: узоры не мешают камере записывать видео. Они «сбивают» именно способность алгоритма опознавать объекты, людей и лица, из-за чего система не срабатывает и не выдаёт оповещений. По словам Сверингена, современные детекторы позволяют правоохранителям выуживать нужный кадр из гигантского объёма записей, «как иголку из стога сена», — а его узоры возвращают человека обратно в стог.

Как это устроено

Сверинген живёт в Канзас-Сити и сооснователь местного сообщества SecKC. Он рассказал TechCrunch, что его город буквально утыкан камерами, порой стоящими в паре метров друг от друга, и что ни он, ни его сограждане не давали согласия на такое наблюдение. Толчком стало желание сходить на протест: обилие камер, способных отследить участников, реализующих конституционное право на свободу слова, показалось ему тревожным.

Он опирался на прежние арт-проекты и одежду, задуманные для обмана распознавания лиц. Начав с простого стенда, последовательно обходившего один открытый алгоритм за другим, Сверинген со временем превратил разработку в модель обучения с подкреплением — систему, которая сама тренируется на том, какие узоры работают, а какие нет. Он описал это так, будто «научил модель рисовать»: каждый раз, когда узор проваливал проверку и алгоритм его замечал, модель пробовала снова, пока не начинала обходить сразу несколько детекторов.

По словам исследователя, модель нашла «идеальные рецепты», побеждающие все 11 протестированных им открытых алгоритмов, включая ПО считывателей номеров Flock, нательных камер Axon и систем на базе Clearview AI. Теперь она генерирует новые узоры каждую минуту, и каждая партия математически лучше предыдущей.

Первое испытание

Первую публичную проверку Сверинген провёл в пятницу на конференции Def Con в Лас-Вегасе. При содействии Donut Media узором обклеили Toyota Yaris 2009 года, чтобы проверить, станет ли машина невидимой для камеры Flock. «Мы доказали, что это работает», — заявил исследователь, признав, что сложность вызвали колёса. Видео демонстрации Donut Media обещает опубликовать в ближайшие недели.

Следующий шаг — раздать узоры желающим. У проекта есть краудфандинговая кампания, чтобы профинансировать выпуск первой мерч-продукции: футболок и худи, а в перспективе — плёнок для автомобилей. Самые сильные узоры Сверинген держит в тайне, чтобы производители камер не научились их обходить. Работа, по его словам, ещё не завершена: «Каждая неудача улучшает мою модель, поэтому узоры становятся всё лучше».

Источник: TechCrunch