Экспериментируем с предложенным Cross-Origin Storage API в Transformers.js
Hugging Face
Предложение Cross-Origin Storage (COS) API направлено на решение проблемы избыточных загрузок и кэширования общих ресурсов моделей ИИ и сред выполнения между разными источниками в вебе. Transformers.js в настоящее время страдает от дублирования хранения весов моделей и файлов Wasm из-за изоляции кэша браузера. COS идентифицирует файлы по криптографическому хешу, а не по URL, что позволяет совместно использовать их между источниками с контролем целостности и доступа.
Transformers.js позволяет веб-разработчикам запускать модели ИИ в браузере с помощью специализированных конвейеров для выполнения задач. Однако популярные модели, такие как Xenova/whisper-tiny.en, загружаются и кэшируются отдельно для каждого источника, что приводит к дублированию хранилища (например, 177 МБ для простого примера автоматического распознавания речи). Даже файлы среды выполнения
Показать ещё ↓
Источник: Hugging Face blog —
оригинал