ИИ как когнитивный вирус: модель эпидемии зависимости от LLM

Группа из девяти авторов — среди них Рикард Соле, Дэвид Кракауэр и Майкл Левин — опубликовала на arXiv работу с провокационным заголовком «Большие языковые модели как когнитивный вирус». Препринт вышел в разделе «Физика и общество» и рассматривает не техническую сторону нейросетей, а социальную динамику их проникновения в человеческую культуру.

Заражение по аналогии

Авторы предлагают взглянуть на распространение LLM так, как эпидемиологи смотрят на инфекцию. Пользование моделями «расходится» по популяции подобно вирусу и постепенно встраивается в когнитивные и культурные практики. В модели выделены три состояния: люди, никак не связанные с инструментом, связанные с ним время от времени и те, кто перешёл в состояние устойчивой зависимости.

Ключевой механизм — взаимодействие трёх сил: социальной передачи (люди перенимают привычку друг у друга), «выздоровления» (возврата к самостоятельной работе) и коллективного подкрепления, когда широкое использование делает отказ всё менее вероятным. Из сочетания этих факторов и рождаются точки перелома и технологический lock-in — состояние, из которого трудно выйти.

Эффект лавины

Самый тревожный вывод статьи — возможность «неудержимой динамики». После пересечения критического порога даже небольшой прирост числа пользователей способен запустить резкий сдвиг всей популяции в сторону устойчивой зависимости. Сопровождается это, по мысли авторов, скачкообразной потерей когнитивной компетентности: навыки, которые люди делегировали машине, атрофируются быстро и одновременно у многих.

Это не линейный процесс, а именно коллективный фазовый переход — как вскипание воды, а не постепенное нагревание. Отсюда и уместность вирусной метафоры: отдельный человек может не заметить момента, когда «мягкое подспорье» превратилось в необходимость.

Прививка от зависимости

Та же математика, впрочем, подсказывает и защиту. Авторы говорят о возможности «когнитивной иммунизации»: если снизить интенсивность социальной передачи привычки и облегчить обратимость — то есть сделать отказ от постоянного использования простым и безболезненным, — систему можно удержать по здоровую сторону порога.

Работа остаётся теоретической моделью на двенадцати страницах с тремя графиками и не претендует на эмпирические измерения реального общества. Но она предлагает язык, на котором можно обсуждать риск для когнитивной автономии — не в терминах пользы или вреда отдельного инструмента, а в терминах пороговых эффектов, за которыми возврат становится дорогим.

Источник: Hacker News