#red-teaming
-
OpenAI представила GPT-Red — автоматизированный поиск уязвимостей prompt injection
OpenAI раскрыла подробности о GPT-Red — внутренней модели для автоматизированного red-teaming, которая ищет уязвимости к атакам через внедрение промптов до массового развёртывания инструментов.