Hardware e Inferencia RSS

Google justifica su enorme gasto en IA con el auge del negocio en la nube

Los ingresos en la nube de Alphabet aumentaron un 82% interanual hasta los 24.800 millones de dólares, impulsados por la adopción de inteligencia artificial empresarial. El director ejecutivo Sundar Pichai destacó una fuerte demanda y acuerdos a largo plazo, con gastos de capital esperados entre 180 mil millones y 190 mil millones de dólares para el año.

Google/DeepMindGoogle/DeepMind
TechCrunch AI24.07 · 02:05

Nunchaku Lite permite inferencia de difusión de 4 bits en Diffusers

Nunchaku Lite, una nueva integración en Hugging Face Diffusers, permite cargar modelos de difusión cuantizados a 4 bits con una simple llamada from_pretrained(), sin necesidad de pipelines personalizados ni compilación local de CUDA. Reduce el uso de VRAM hasta un 50% y acelera la inferencia aproximadamente 1.35 veces, con mejoras adicionales mediante torch.compile.

Hugging FaceHugging Face BaiduBaidu
Hugging Face blog24.07 · 02:04
Noticias frescas