ИИ не переигрывает математиков, а их перепоминает

Когда языковая модель решает трудную математическую задачу, принято говорить, что она «поумнела»: усвоила миллионы примеров, обучилась лучшим стратегиям рассуждения, обрела нечто похожее на интуицию. Давиде Пиффер предлагает более прозаичное объяснение: ключевое преимущество ИИ — не превосходящее мышление, а колоссальный внешний символьный «блокнот», выполняющий роль рабочей памяти.

Математику ограничивает память

Человек способен удерживать в уме лишь несколько незнакомых элементов одновременно. Попробуйте перемножить в уме два трёхзначных числа: операции просты, но трудность в том, чтобы сохранять промежуточные результаты. Бумага не делает нас умнее — она расширяет эффективную рабочую память. То же и с нотацией, черновиками, ранее доказанными леммами: эксперты сжимают информацию «чанками», но не снимают биологический предел.

Автор ссылается на исследования (Alloway, Passolunghi и другие), где рабочая память предсказывала математические успехи детей даже после поправки на IQ. Вывод осторожный, но важный: при равном интеллекте разница в способности удерживать и обновлять информацию всё равно влияет на результат.

Контекстное окно как гигантский черновик

Модель удерживает в контексте условие задачи, определения, десятки промежуточных уравнений, отброшенные подходы и собственные прежние выводы. Её рассуждение вынесено вовне: записав «x=6», а позже «x+3=9», она может снова обратиться к этим строкам. Человек с трудом держит активными пять условий, ИИ — сотни. Это не точный аналог человеческой рабочей памяти (правильнее говорить о «дополненной символьной памяти»), и не всё в длинном контексте извлекается идеально, но разница потенциальной ёмкости огромна.

Математика идеально подходит под такую архитектуру: почти всё можно записать явно и однозначно — предпосылки, ограничения, уже исключённые случаи. Человек может понимать стратегию, но поделить на x, забыв, что x≠0. Это ошибка не ума, а бухгалтерии. ИИ ведёт «гроссбух» состояния задачи и потому справляется с длинными цепочками A→B→C→D, где сложность определяется не отдельным шагом, а числом согласуемых шагов. То, что выглядит как более глубокая мысль, порой оказывается более широким поиском в большом блокноте.

Где преимущество исчезает

В неформальных областях — «почему Мария перестала отвечать?», в политике, истории, психологии — решают не объём памяти, а верная причинная модель при неполных и двусмысленных данных. Никакая память не восстановит ненаблюдавшиеся факты, а слова вроде «справедливый» или «успешный» лишены точности переменных. Математика же вознаграждает системы, умеющие порождать, хранить и проверять явные промежуточные состояния — здесь помогают код и формальные верификаторы вроде Lean.

Пиффер вспоминает наблюдение Вигнера: фон Нейман поражал скоростью и широтой ума, но Эйнштейн понимал глубже и умел переосмыслить саму задачу. Нынешний ИИ похож скорее на усиленного машиной фон Неймана с безграничным блокнотом, чем на Эйнштейна. Настоящий порог будет пройден, когда ИИ научится распознавать, что задача поставлена неверно, и придумывать принципиально новый способ её понимания.

Источник: Hacker News