Карпатый: разрыв в понимании возможностей ИИ превращается в воронку

Андрей Карпатый вернулся к своему апрельскому тезису о том, что люди всё хуже понимают реальные возможности больших языковых моделей. По его наблюдению, разрыв не просто сохраняется — он расширяется, и речь уже не о «двух группах, говорящих мимо друг друга», а о резкой воронке.

Четыре яруса

По прикидкам Карпатого, около 6 миллиардов человек (примерно 75% населения) практически не сталкивались с языковыми моделями. Ещё 1–2 миллиарда (около 20%) — случайные пользователи бесплатных сервисов вроде ChatGPT: для них это неуклюжий чат-бот, что-то вроде улучшенного поиска или помощника в письме. По его словам, даже многие профессионалы вне математики и программирования остаются в этом ярусе — руководители, например, понимают происходящее лишь умозрительно, из вторых рук.

Далее идут примерно 20 миллионов человек (0,2%) — профессионалы, применяющие передовые модели в коде и математике. Они своими глазами видят, как задачи, прежде занимавшие недели и месяцы, агенты выполняют по одному запросу. Карпатый напоминает, что ещё меньше года назад он сам набирал код вручную, символ за символом.

Наконец — около 5000 человек (0,00006%) с доступом к передовым системам внутри компаний. Внешний мир видел лишь анонс: рои из тысяч агентов, неделями совместно работающих над программными мегапроектами, поиск уязвимостей нулевого дня, кибератаки и защита на машинной скорости, продвижение науки и математики.

Что движет воронкой

Карпатый называет три причины. Первая — эффект масштабируется с амбициями и размером задачи: короткий вопрос почти не нагружает систему, нужен запас больших и важных проблем. Вторая — «зазубренность» возможностей: модели сильнее всего там, где задачи цифровые, проверяемые и экономически ценные, поскольку их умения растут из обучения с подкреплением на проверяемых наградах. Третья — попросту доступ: бесплатный, платный, внутренний.

Отсюда и странность момента, заключает он: большинство людей либо вовсе не трогали эти системы, либо видели лишь неуклюжего чат-бота; большинство профессионалов ощущают скромную прибавку; и лишь тонкая прослойка переживает «головокружение» от вертикального взлёта кривой — причём всё это происходит одновременно. Он добавляет, что человеческая проверка и осмысление уже начинают отставать от происходящего.

Источник: Hacker News