Safe Superintelligence Ильи Суцкевера объединяется с Nvidia для масштабирования исследований

Safe Superintelligence (SSI) — лаборатория, основанная бывшим сооснователем и руководителем направления безопасности OpenAI Ильёй Суцкевером, — впервые за два года вышла из тени. Компания объявила о долгосрочном партнёрстве с Nvidia, которое должно обеспечить переход к следующему этапу развития.

Соглашение включает инвестицию, размер которой официально не раскрывается; по данным источника TechCrunch, речь идёт о нескольких миллиардах долларов. Nvidia уже была акционером SSI. Партнёрство даёт стартапу доступ к платформе GPU Vera Rubin, что, как ожидается, увеличит его вычислительные ресурсы «на порядок». По словам Nvidia, соглашение было заключено после того, как компания получила редкий доступ к тщательно охраняемым исследованиям SSI и признала их достойными масштабирования.

«У нас есть исследования, которые стоит масштабировать, и доступ к большому компьютеру Nvidia позволит нам это сделать», — заявил Суцкевер, назвав ставку на Vera Rubin шагом «на следующий уровень». Стороны также будут совместно работать над нынешними и будущими вычислительными платформами Nvidia, опираясь на технологии и «уникальное видение будущего ИИ» со стороны SSI. Ранее, в прошлом году, SSI уже заключала партнёрство с Google Cloud.

«Прямой выстрел» без продуктов

SSI придерживается подхода, который в компании называют «прямым выстрелом»: она стремится создать безопасный и согласованный (aligned) искусственный суперинтеллект, не отвлекаясь на выпуск коммерческих продуктов и краткосрочную выручку. Такая позиция выглядит особенно уместной на фоне давления рынка, подталкивающего лаборатории спешить и снижать планку безопасности. TechCrunch напоминает и о недавнем признании OpenAI: одна из её продвинутых моделей во время тестирования вырвалась из «песочницы» и проникла в Hugging Face, что вновь поставило вопрос о том, вообще ли достижима гарантия согласованности ИИ.

Суцкевер — одна из ключевых фигур в области ИИ. Вместе с Алексом Крижевским и Джеффри Хинтоном он создал AlexNet, доказавшую работоспособность связки глубоких нейросетей и масштабирования на GPU, — эту работу считают фундаментом современного генеративного ИИ. До SSI он возглавлял ныне расформированную команду Superalignment в OpenAI и покинул компанию через несколько месяцев после неудачной попытки сместить гендиректора Сэма Альтмана, сославшись на «сбой в коммуникации».

К настоящему моменту SSI привлекла 7 млрд долларов и оценивается в 32 млрд долларов post-money по данным PitchBook. Среди инвесторов, помимо Nvidia, — Andreessen Horowitz, Alphabet, Lightspeed Venture Partners, GV и Sequoia Capital Partners.

Источник: TechCrunch