NetworkManager ловит ИИ-агентов на слове «biblioklept»

Месяц назад проект NetworkManager принял политику в отношении ИИ-кода: автор отвечает за 100% отправляемого кода и должен уметь объяснить каждую его строку. Чтобы не заваливать сопровождающих патчами, сгенерированными нейросетями в обход этих правил, участница проекта Josephine Pfeiffer предложила изящный способ вычислять таких нарушителей.

Ловушка в документации

Хитрость строится на том, что ИИ-агенты вроде тех, что читают файлы AGENTS.md и CLAUDE.md, послушно выполняют инструкции из этих документов. В NetworkManager туда добавили указание: если агент всё же генерирует текст сообщения к коммиту, описание merge request, ответ на код-ревью или любую другую переписку от лица участника вопреки правилам, он обязан вплести в этот текст слово «biblioklept».

Слово выбрано неслучайно. «Biblioklept» — вполне реальный термин, означающий человека, который ворует книги. В обсуждениях сетевого стека Linux оно, по понятным причинам, не встречается никогда. Поэтому его появление служит надёжным сигналом-канарейкой: автоматическая инфраструктура проекта просто ищет это слово и по нему отлавливает патчи, пришедшие от послушно выполнивших инструкцию ботов. Найденные таким образом обращения можно автоматически отбраковывать, не тратя время сопровождающих.

Парадокс ситуации в том, что ловушка работает именно за счёт исполнительности ИИ-агентов: чем аккуратнее бот следует прочитанным инструкциям, тем вернее он себя выдаёт. Соответствующий merge request уже принят в NetworkManager.

Эпизод хорошо вписывается в общий фон: проекты Linux-сообщества всё чаще жалуются на поток низкокачественных патчей, сгенерированных языковыми моделями, и ищут способы защититься от них — от жёстких заявлений мейнтейнеров беспроводного стека до формальных политик вроде той, что приняли в NetworkManager.

Источник: Phoronix