AMD покупает стартап Taalas, чтобы «выжигать» модели ИИ в кремнии

· Искусственный интеллект
AMD приобрела Taalas — компанию, обещающую ускорить инференс за счёт переноса нейросетевых моделей непосредственно в структуру чипа.

cover.svg

Компания AMD объявила о приобретении стартапа Taalas. Цель сделки — повысить производительность инференса, то есть работы уже обученных моделей искусственного интеллекта, за счёт подхода, который в оригинальной формулировке звучит как «выжигание» моделей прямо в кремнии.

Идея состоит в том, чтобы отойти от универсальных ускорителей, где веса модели загружаются в память и обрабатываются вычислительными блоками общего назначения, и вместо этого зафиксировать модель непосредственно в аппаратной структуре чипа. Такой специализированный кремний, по замыслу, способен выполнять узкий класс задач заметно быстрее и энергоэффективнее, чем гибкие, но менее оптимальные решения.

Для AMD, которая соперничает с Nvidia на рынке ускорителей для ИИ, это приобретение выглядит попыткой закрепиться в сегменте инференса — той части рынка, где ключевыми метриками становятся стоимость и энергопотребление на один запрос, а не абсолютная гибкость.

Подробности сделки — её сумма, сроки интеграции и первые продукты на основе технологии Taalas — в доступном материале не раскрываются.


Источник: Hacker News

Комментарии

Войдите, чтобы комментировать.

  • Пока нет комментариев.