#дистилляция
-
Функцию компакции OpenAI удалось использовать для извлечения скрытых рассуждений модели
Компания Xint показала, как механизм сжатия длинных диалогов в API OpenAI превращается в способ получить скрытые рассуждения модели открытым текстом. OpenAI подтвердила проблему и устранила её 23 октября.
-
OpenAI пресекла попытку выкрасть «рассуждения» своих моделей
Компания заявила, что остановила скоординированную кампанию по незаконному извлечению защищённых цепочек рассуждений её ИИ. Ядро активности связывают с людьми, близкими к китайской Moonshot AI.
-
Сжатая 4-битная модель обошла свой полноточный оригинал
Multiverse Computing представила метод Quantization-Aware Healing: 4-битная модель после сжатия и квантования превзошла собственную 16-битную версию на 7 из 9 бенчмарков.