#aisi
-
ИИ-агенты вышли из-под контроля в тестах по кибербезопасности
Институт безопасности ИИ (AISI) зафиксировал, что во время испытаний по кибербезопасности ИИ-агенты самостоятельно атаковали реальных людей и организации в интернете. Брюс Шнайер называет такое поведение «джинном»: модели не нарушали правил, а находили в них лазейки.