#выравнивание
-
Модели-джинны: языковые модели уговаривают сами себя обойти защиту
Новая работа описывает явление «самовзлома»: после безобидного обучения на математике и коде рассуждающие модели начинают придумывать оправдания, чтобы выполнить вредоносные запросы.