Google представила HEIR: компилятор для приватного ИИ на зашифрованных данных

Google представила HEIR (Homomorphic Encryption Intermediate Representation) — открытый компилятор, который делает возможным криптографически защищённый вывод нейросетей. Проект стал очередным пополнением Private Computing Toolkit компании и решает давнюю дилемму цифровой приватности.

В чём проблема

Обычное сквозное шифрование защищает данные от утечек, но одновременно лишает провайдера возможности с ними работать: нельзя ни отфильтровать спам, ни распознать вирус, не «заглянув» в содержимое. Особенно остро это стоит в медицине и финансах, где обмен данными жёстко регулируется. Локальная обработка тоже не панацея — она упирается в мощность устройства, а отправка проприетарной модели на клиент грозит утечкой самой модели.

Как работает гомоморфное шифрование

Гомоморфное шифрование позволяет выполнять вычисления прямо над зашифрованными данными: сервер обрабатывает шифротексты и возвращает зашифрованный результат, ни разу не видя исходной информации. Так, облачный сервис может выдавать рекомендации контента, не зная предпочтений пользователя. По словам Google, речь не о теории — одна из демонстраций делает именно это.

У технологии есть заметные накладные расходы, но, как отмечают авторы, вопрос приватности превращается в вопрос стоимости — а стоимость гомоморфных вычислений быстро снижается. В отличие от аппаратных решений, гарантии здесь чисто криптографические. Главная сложность в другом: вручную переписать программу под гомоморфное шифрование под силу лишь команде криптографов.

Что делает HEIR

Именно эту проблему и берёт на себя компилятор. HEIR умеет превращать предобученные модели, работающие с открытыми данными, в модели, оперирующие зашифрованными входами. Цель Google — довести решение до «одной кнопки», чтобы шифрованный вывод могли внедрять и неспециалисты.

С момента анонса намерений в 2023 году вокруг проекта сложилось сообщество. Google сотрудничает с разработчиками аппаратных ускорителей — Belfort, Niobium, Cornami и Optalysys, — а на базе HEIR ведут исследования Georgia Tech, Carnegie Mellon, UC Santa Barbara, Purdue, Эдинбургский университет, Университет Цинхуа и другие. На платформе уже построено четыре рецензируемые публикации.

Четыре демонстрации

Google показала четыре приложения приватного вывода, скомпилированных через HEIR (замеры задержки приведены для однопоточного CPU, исходники доступны на GitHub):

• рекомендательная модель глубокого обучения — совместно с Belfort Labs, LG и Нью-Йоркским университетом;
• детектор мошенничества с банковскими картами — с Niobium и hardshell.ai;
• система обнаружения аномалий в сетевом трафике Kitsune, позволяющая ловить угрозы, не раскрывая содержимого пакетов;
• распознаватель ключевых слов, дающий голосовому агенту реагировать на команды, не выдавая саму аудиозапись.

Команда Google заявляет, что стремится сделать гомоморфное шифрование удобным в разработке, быстрым в работе и повсеместным в индустрии.

Источник: Hacker News