Преимущество Nvidia смещается за пределы GPU

Долгое время о Nvidia рассказывали простую историю: в первые годы бума искусственного интеллекта компания оставалась единственным поставщиком передовых GPU и заработала на этом целое состояние. Затем гиперскейлеры вроде Amazon и Google начали проектировать собственные чипы, и инвесторы засомневались, насколько устойчиво преимущество Nvidia. После отчёта в среду сложился новый сюжет: сила компании выходит далеко за пределы графических процессоров.

По мере того как вычисления для ИИ вырастают до гигаваттного масштаба, всё сложнее становится оркестрация — согласованная работа всей инфраструктуры. Здесь, отмечает TechCrunch, у Nvidia накопился внушительный задел: она уже построила большую часть оборудования, необходимого для управления такими системами, и получила преимущество в том, что окружает GPU, даже когда на рынке самих ускорителей растёт конкуренция. Вычисления давно принято считать товаром массового спроса, но эксплуатировать мегамасштабный дата-центр на пике эффективности по-прежнему невероятно трудно.

Стойка за стойкой

Это видно по тому, что Nvidia продаёт сегодня. Компания разворачивает архитектуру Vera Rubin, где GPU Rubin сочетается с набором других блоков: процессором Vera, ускорителем инференса Groq 3 LPX и отдельными стойками для хранения и сети. Если сам Rubin — это двигатель, перемалывающий токены, то остальные узлы — это, по образному сравнению издания, вся прочая машина, чья задача — чтобы за пределами GPU всё работало максимально эффективно.

Особая роль отведена процессору Vera, который управляет потоками данных. Как объяснил вице-президент Nvidia по технологиям хранения Джейсон Харди, память в одном сервере не безгранична, а доставить данные к GPU в нужный момент — задача нетривиальная. По его словам, Vera ускорил соответствующие операции почти втрое: флеш-накопители теперь удаётся задействовать на полную мощность, не упираясь в узкие места. Именно поэтому во второй волне инфраструктурного бума разбогатели производители памяти вроде Micron.

Разные пути к одной цели

Ту же проблему решают и другие. Разрабатывая чип Jalapeño, OpenAI сделала ставку на то, чтобы вовсе избежать перемещения данных: по заявлению компании, крупный домен позволяет удерживать всю задачу внутри одной связанной системы, сохраняя запрос быстрым от начала до конца. Подход иной, но логика та же — повышать эффективность за счёт умного управления трафиком, а не простого наращивания процессорных циклов.

Это не означает автоматической победы Nvidia: конкурировать с другими производителями чипов и гиперскейлерами придётся так же, как и на рынке GPU. Но борьба переместилась на новый уровень, где важнее не собрать соперничающий ускоритель, а заставить эффективно работать всю систему целиком. И на ранней стадии этой гонки, заключает автор, Nvidia выглядит уверенным лидером.

Источник: TechCrunch