Железо и инференс RSS

Nunchaku Lite: 4-битный вывод диффузионных моделей в Diffusers

Nunchaku — метод квантования SVDQuant (W4A4) для диффузионных трансформеров. Новая интеграция Nunchaku Lite позволяет загружать квантованные чекпоинты напрямую через from_pretrained() в Diffusers, без отдельного движка. Скорость генерации возрастает до 1.8x, пиковое потребление VRAM снижается до 50%.

Hugging FaceHugging Face BaiduBaidu
Hugging Face blog24.07 · 02:04

Бывший уолл-стритовский инвестор создаёт «руки»: LumiBot закрыл многомиллионный раунд на разработку тактильных сенсоров и ПО для роботов

Китайский стартап LumiBot (拾玥科技) привлёк десятки миллионов юаней в рамках angel-раунда. Компания разрабатывает высокоточные манипуляторы для промышленности, включая собственные тактильные сенсоры с разрешением 10 мкм, активное охлаждение и ИИ-модели управления. Годовая выручка ожидается на уровне 20-30 млн юаней.

36Kr24.07 · 02:03
Свежие новости