Как язык ИИ может изменить человеческую речь

Известный эксперт по безопасности Брюс Шнайер в своём блоге поднимает вопрос о том, как распространение больших языковых моделей может повлиять на человеческую речь.

Ограниченный срез языка

Большие языковые модели обучаются на письменных текстах — от учебников до постов в социальных сетях, — а также на речи, зафиксированной в фильмах и на телевидении. Однако у них практически нет доступа к неотрепетированным разговорам, которые люди ведут лицом к лицу или по телефону.

Между тем именно такая спонтанная устная речь составляет подавляющую часть всей человеческой коммуникации и является важнейшим элементом культуры. Получается, что модели обучены лишь на узком, нетипичном срезе языка.

В чём риск

Шнайер указывает на опасность, которую несёт эта особенность обучения. По мере того как использование языковых моделей растёт, люди всё чаще сталкиваются с текстами, сгенерированными ИИ. Со временем это может привести к тому, что сами люди начнут перенимать лингвистические паттерны и речевые привычки, характерные для таких моделей.

По мнению автора, это способно повлиять не только на то, как люди общаются друг с другом, но и на другие аспекты языка и мышления в более широком смысле.

Почему это важно

Язык — не просто инструмент передачи информации, а основа культуры и способа мышления. Если массовое распространение ИИ-текстов начнёт постепенно сдвигать нормы устной речи в сторону паттернов, свойственных языковым моделям, это может привести к обеднению естественного разнообразия речи — той самой спонтанной, неотрепетированной коммуникации, которую модели пока не способны воспроизвести и на которой, по сути, не обучались.

Шнайер не предлагает готовых решений, но обращает внимание на то, что последствия массового взаимодействия с ИИ выходят далеко за рамки удобства и эффективности — они затрагивают саму природу человеческого общения.

Источник: Schneier on Security