Hugging Face und Cerebras schließen sich für Echtzeit-Sprach-KI auf Basis von Gemma 4 zusammen

Hugging Face hat gemeinsam mit Cerebras eine Open-Source-Pipeline für Echtzeit-Sprachsynthese entwickelt, die die Sprachinteraktion mit KI so natürlich wie möglich macht. Das System arbeitet nach dem Prinzip „Spracheingabe → Spracherkennung via Nvidia Parakeet → Ausgabe des multimodalen Sprachmodells Gemma 4 (entwickelt von Google DeepMind) auf Cerebras-Beschleunigern → Sprachsynthese via Alibabas Qwen3TTS → Sprachausgabe“. Jede Komponente ist offen, modular und austauschbar, sodass Entwickler den Stack für ihre Assistenten, Roboter oder Forschungsprojekte anpassen können. Besonderes Augenmerk liegt auf der Latenzstabilität: Obwohl viele Systeme eine akzeptable mediane Latenz aufweisen, treten bei P95 (den 5 Prozent langsamsten Anfragen) immer noch mehrsekündige Pausen auf. Cerebras löst dieses Problem, indem es eine schnelle und vorhersagbare Inferenz des Sprachmodells gewährleistet. Dieselbe Pipeline wird bereits in Reachy-Mini-Robotern eingesetzt, von denen es über 10.000 Exemplare gibt. Entwickler sind eingeladen, die Demo auf Hugging Face Space auszuprobieren und mit dem Code aus dem Repository „huggingface/speech-to-speech“ zu experimentieren.