«Несущие» слова в лексиконе Claude

· Искусственный интеллект
Заметка Луи Абраама обращает внимание на то, что в языке модели Claude есть слова, несущие непропорционально большую смысловую нагрузку.

cover.svg

Луи Абраам опубликовал короткую заметку под названием «The load-bearing vocabulary of Claude» — «Несущий лексикон Claude». Английское выражение load-bearing заимствовано из строительства: так называют несущую стену или конструкцию, на которой держится всё здание. В переносном смысле «несущим» называют элемент, без которого рассуждение или система рассыпается.

Заголовок переносит эту метафору на языковую модель Claude от Anthropic. Речь идёт о том, что в характерной для модели манере изложения отдельные слова и обороты выполняют роль опорных: они встречаются заметно чаще прочих и берут на себя основную смысловую нагрузку, задавая узнаваемый стиль ответов ассистента.

К сожалению, полный текст заметки получить не удалось, поэтому подробные выводы и конкретные примеры автора привести нельзя — доступен лишь заголовок. Сама постановка вопроса, однако, любопытна: она продолжает наблюдения о том, что у больших языковых моделей формируется собственный, легко узнаваемый словарь, а отдельные любимые слова становятся своего рода стилистической подписью.


Источник: Lobsters

Комментарии

Войдите, чтобы комментировать.

  • Пока нет комментариев.