Anthropic запустила бесплатное ИИ-сканирование уязвимостей для open source

Anthropic представила OSS Scanner — сервис, который должен помочь проектам с открытым исходным кодом находить уязвимости. Участие добровольное: подключившиеся команды получат, по словам компании, «тщательные периодические проверки безопасности нашими сильнейшими моделями — бесплатно».

Обещание выглядит заманчиво: о потенциальных проблемах разработчики смогут узнавать раньше. Но у подхода есть существенная оговорка.

Отчёты без проверки человеком

Результаты сканирования, подчёркивает Anthropic, будут полностью сгенерированы моделью — без человеческой проверки и сортировки. Такой формат позволяет сканировать чаще и быстрее, но означает, что часть отчётов может оказаться ошибочной или попросту несостоятельной. Готовить их будут самые мощные модели компании, включая Claude Mythos, — чтобы дать открытым проектам, как выражается Anthropic, максимальное преимущество в обороне.

Не первый и не единственный

OSS Scanner далеко не первый ИИ-помощник для поиска багов. За последние месяцы такие инструменты помогли обнаружить серьёзные уязвимости в открытом ПО — например, ошибку Copy Fail, затронувшую в мае почти все дистрибутивы Linux.

У медали есть и обратная сторона. Некоторые проекты уже с трудом справляются с внезапным потоком сгенерированных ИИ отчётов о багах — на это жаловались и Линус Торвальдс, и даже Google. Новый сервис от Anthropic, обещающий ещё более частые автоматические проверки, рискует этот поток только усилить.

Источник: The Verge