Mistral AI Ingenieure entdecken echte Ursache für Speicherleck in vLLM mit BPFtrace

Mistral AI Ingenieure untersuchten ein Speicherleck in vLLM während des disaggregierten Servings mit Mistral Medium 3.1. Nach der Verwendung von Python-Tools, Heaptrack und BPFtrace fanden sie heraus, dass das Leck durch direkte mmap-Aufrufe über glibcs syscall-Wrapper verursacht wurde, nicht durch Heap-Allokationen.

Mistral

Google DeepMind half dem National Hurricane Center, den historischen Landfall von Hurrikan Melissa auf Jamaika besser vorherzusagen

Das KI-Modell WeatherNext von Google DeepMind half dem National Hurricane Center (NHC), die schnelle Intensivierung von Hurrikan Melissa auf Kategorie 5 und seinen Landfall auf Jamaika fünf Tage im Voraus vorherzusagen. Dies war das erste Mal, dass ein Sturm von einer so niedrigen anfänglichen Windgeschwindigkeit aus erfolgreich als Kategorie-5-Sturm vorhergesagt wurde. Die Frühwarnungen ermöglichten es den Behörden, Ressourcen zu mobilisieren und Evakuierungen zu koordinieren, was möglicherweise Leben und Lebensgrundlagen rettete.

Google/DeepMind Google DeepMind Google Research