Новости
3 мин чтенияHugging FaceWebGPUлокальный ИИJavaScriptopen sourceHugging Face открыл 207 WebGPU-ядер — локальный ИИ в браузере ускорился в 1,9 раза
1 сентября 2026 года Hugging Face выпустил предварительную версию @huggingface/kernels и коллекцию из 207 WebGPU-ядер для локального запуска ИИ в браузере. Каждая операция опубликована отдельным версионируемым пакетом с интерфейсом, WGSL-кодом, проверками корректности и измерениями. На Apple M4 среди 809 сопоставимых тестов ядра Hugging Face оказались быстрее ONNX Runtime Web в 1,9 раза по медиане и в 2,57 раза по геометрическому среднему.
Обновлено: 7 сентября 2026
207 ядер дали медианное ускорение 1,9 раза на Apple M4
- 207
- WebGPU-операций в первой открытой коллекции
- 1,90×
- медианное ускорение против ORT WebGPU
- 2,57×
- ускорение по геометрическому среднему
- Apache-2.0
- лицензия коллекции
Сравнение начиналось с 1756 случаев по всем операциям. В итог вошли 809 случаев, где обе реализации дали совпадающий результат и устойчивое время: 629 побед Hugging Face, 176 проигрышей и четыре ничьи.
Компания приводит и редкие экстремальные примеры — свыше десяти тысяч раз на одном Einsum и 301 раз на CumSum. Их нельзя переносить на обычную модель: авторы прямо называют такие случаи нетипичными.
Это скорость отдельных операций, а не готовой модели
В измерения вошло только время работы GPU. Загрузка ядра, создание сессии, передача данных, компиляция шейдера и чтение результата не учитывались. На короткой операции эти накладные расходы могут оказаться дороже самой математики.
Результат также получен на одном Apple M4 и одной предварительной сборке ONNX Runtime Web. Поведение меняется от видеокарты, браузера, драйвера, формы тензора и поддерживаемых возможностей WebGPU. Поэтому цифры показывают потенциал слоя, а не обещанную скорость любого приложения.
| Что опубликовано | Что лежит рядом |
|---|---|
| Ядро WebGPU | WGSL-шаблоны и варианты реализации |
| Контракт JavaScript | Входы, выходы, типы и версия интерфейса |
| Проверки | Случаи корректности и эталонные результаты |
| Измерения | bench.json с формами и сценариями нагрузки |
Коллекция опубликована в организации webgpu-kernels на Hugging Face Hub и распространяется по Apache-2.0.
Пакет ставится одной командой, а Fleet проверяет вашу видеокарту
Первый релиз — низкоуровневый слой. Он ещё не заменяет Transformers.js или готовый рантайм, но даёт им каталог операций, которые можно обновлять и настраивать независимо от приложения.
- Предварительный пакет: npm install @huggingface/kernels@preview.
- Для запуска нужен браузер, операционная система, GPU и драйвер с поддержкой WebGPU.
- getKernel загружает версию контракта из Hub, после чего приложение вызывает операцию с типизированными данными и формами тензоров.
- Fleet запускает проверки корректности и скорости прямо в браузере на конкретном устройстве.
- Только с согласия пользователя результаты Fleet добавляют частные данные об ошибках и скорости в общую базу Hugging Face.
Библиотека бесплатна, подписка Hugging Face для неё не нужна
@huggingface/kernels и сами ядра открыты, поэтому платить за их локальный запуск не нужно. Деньги появляются, если проект использует платные функции Hub, выделенные вычисления или Hugging Face PRO; варианты оплаты из России разобраны в гайде как оплатить Hugging Face.
Каталог карт Atlas Pay
Мнение Atlas
Это скучный слой, из которого обычно и складывается заметное ускорение. Не новая модель, а 207 проверяемых кирпичей, которые можно чинить по одному и не ждать выпуска целого рантайма.
Начинать стоит не с миграции, а с Fleet и одного тяжёлого ядра. Если узкое место подтверждено на целевом устройстве, остальная интеграция уже имеет смысл.
Что это значит для вас
- Для браузерного ИИ появился открытый каталог низкоуровневых операций вместо вшитых и плохо сравнимых шейдеров.
- Медианное ускорение 1,9 раза относится к отдельным ядрам на Apple M4, а не к полной модели на любом устройстве.
- Пакет уже можно попробовать из npm, но он помечен preview.
- Fleet позволяет проверить реальное ускорение на вашем GPU до переноса приложения.
Гайды по теме
Частые вопросы
Сколько WebGPU-ядер выпустил Hugging Face?
207 операций в первой коллекции, каждая — отдельный версионируемый репозиторий.
Насколько они быстрее ONNX Runtime Web?
На Apple M4 среди 809 сопоставимых случаев медиана составила 1,90 раза, геометрическое среднее — 2,57 раза. Это время отдельных GPU-операций без накладных расходов.
Как установить пакет?
Командой npm install @huggingface/kernels@preview. Нужна поддержка WebGPU в браузере и системе.
Нужна ли подписка Hugging Face?
Нет, библиотека и коллекция доступны по Apache-2.0. Платными могут быть другие сервисы Hugging Face.
$20–$200 · оплата в рублях
Оплачивайте зарубежные сервисы без пауз
Виртуальная карта в долларах с готовым балансом: реквизиты в защищённом заказе через пару минут после оплаты в рублях.
