Opera представила WebAI — стандарт для запуска моделей ИИ прямо в браузере

Компания Opera представила новый веб-стандарт WebAI. Он позволяет запускать модели искусственного интеллекта непосредственно в браузере, не полагаясь на облачные сервисы.

WebAI рассчитан на работу с разными моделями. В качестве примера Opera называет Gemma — модель Google с открытыми весами, впервые представленную два года назад. На компьютерах Mac стандарт также поддерживает собственную локальную базовую модель Apple. При этом в компании подчёркивают, что WebAI не привязан к какой-то одной модели и задуман для поддержки широкого круга открытых систем. Стандарт вырос из прежних наработок Opera по интеграции локальных моделей в её браузеры.

Где и как попробовать

Новые возможности доступны в виде ранней предварительной версии во флагманском браузере Opera One. Вскоре их получат Opera GX — браузер для геймеров и стримеров — и Opera Neon, в котором задачи выполняют ИИ-агенты. Функция включается только по желанию пользователя.

По словам компании, с помощью WebAI можно генерировать текст, классифицировать контент и выявлять связи между фрагментами информации — всё это прямо в браузере.

Открытые веса и приватность

Модели с открытыми весами, как правило, можно бесплатно скачивать и использовать, а доступность весов даёт разработчикам больше свободы в настройке. Впрочем, в отличие от полностью открытого ПО, на такие модели всё же распространяются некоторые ограничения.

Ещё одно преимущество, на которое указывает Opera, — приватность: пользователям не нужно отправлять личные данные на серверы компаний или оплачивать облачную подписку. «Разработчики могут добавлять функции ИИ, не содержа собственную ИИ-инфраструктуру и не платя за каждый запрос, — говорится в анонсе. — Пользователям не нужны подписки, информация, которую обрабатывает локальный ИИ, остаётся на их устройстве, и они сохраняют контроль над ИИ на своём компьютере».

Вопрос конфиденциальности становится всё острее по мере того, как ИИ-ассистенты получают доступ к личной информации. Пользователи нередко передают чат-ботам огромные объёмы данных, не вполне понимая, как они хранятся и используются. Локальная обработка не устраняет всех рисков, но даёт пользователю больше контроля. Неудивительно, что Opera, давно делающая ставку на приватность как на одно из ключевых преимуществ, пошла именно этим путём.

Есть и обратная сторона: локальный запуск моделей повышает нагрузку на компьютер и может сказаться на производительности. В Opera признают, что скорость работы моделей будет зависеть от аппаратных возможностей устройства.

Источник: TechCrunch