Rust вводит правила использования LLM для контрибьюторов rust-lang/rust

Пять команд проекта Rust приняли политику, определяющую, как большие языковые модели (LLM) можно применять при контрибуции в монорепозиторий rust-lang/rust. Автор документа Джинн Нельсон подчёркивает: это не официальная позиция проекта по поводу ИИ и правила действуют не везде — они касаются лишь тех, кто ревьюит и модерирует PR, отправляет сгенерированный код, находит с помощью LLM баги или цитирует модели в обсуждениях. Остальным менять в своей работе ничего не нужно.

Зачем понадобились правила

До этого в проекте царил, по выражению автора, «дикий запад»: десятки PR от языковых моделей, никаких требований раскрывать их происхождение, новички, пытающиеся протолкнуть рискованные оптимизации MIR первым же коммитом. Модераторам не на что было сослаться, а новые участники не понимали, почему их работу закрывают.

Нельсон выделяет три проблемы, которые принесли LLM. Во-первых, вылизанный, хорошо протестированный PR больше не свидетельствует о вложенных усилиях и понимании — а в случае автономных агентов «на том конце» вообще может не быть человека. Во-вторых, лёгкость написания кода усугубляет давнюю беду: желающих писать код куда больше, чем готовых его ревьюить (на момент публикации открыто 1281 PR). Ревью — это прежде всего решения о том, нужен ли вообще такой подход, а сам код тут наименее важная часть. В-третьих, механическое копирование ответов модели в ответ на замечания ревьюера — пустая трата времени и подрыв доверия: «Если бы нам было нужно мнение LLM, мы спросили бы её сами».

Что говорит политика

Суть формулируется одной фразой: модели можно использовать, чтобы отвечать на вопросы, анализировать, уточнять, проверять, предлагать и ревьюить — но не чтобы создавать. Сгенерированный текст запрещён в документации, описаниях PR и комментариях без явной пометки. Раскрытие обязательно для машинного перевода, «тривиальных» правок, поиска багов и ревью чужого кода с помощью ИИ. При этом сообщения на родном языке приветствуются — переводить на английский необязательно.

К коду от LLM требования строже, чем к человеческому: тесты обязательны без исключений, а изменения, критичные для корректности (soundness), запрещены, если автор сам не эксперт в области. Часть правил заведомо неисполнима — и это, по словам автора, не баг: цель не поймать каждое нарушение, а провести чёткую границу, позволяющую модераторам судить по действиям, а не по намерениям. Отдельно оговорено: травить людей за использование ИИ нельзя, а стиль текста не считается доказательством.

Нельсон признаёт, что не все правила хороши, но записанные правила лучше незаписанных. Rust живёт консенсусом, единого мнения об ИИ в сообществе нет и, вероятно, не будет, поэтому запретить или разрешить LLM «сверху» невозможно. Совет лидеров уже думает о создании отдельной подкоманды по политике в отношении ИИ, а сама политика написана так, чтобы её было легче менять в будущем.

Источник: Lobsters