Vier Mac Studio Einheiten mit 1,5 TB Speicher geclustert betreiben KI, die nicht auf eine einzelne GPU passt

Ein Journalist kombinierte vier Mac Studio Einheiten mit M3 Ultra zu einem Cluster mit einem Gesamtspeicher von 1,5 TB unter Verwendung von RDMA-Technologie über Thunderbolt 5. Der Cluster führte massive KI-Modelle wie Kimi K2 Thinking (über 600 GB) aus, die auf einem einzelnen Computer nicht geladen werden können. Das Projekt wurde mit dem Open-Source-Tool Exo 1.0 umgesetzt.

Apple NVIDIA Exo Moonshot AI DeepSeek Alibaba/Qwen

Arcee: Chinesische KI-Modelle sind nicht gefährlicher als jede andere Open-Source-Software

Das amerikanische Open-AI-Labor Arcee argumentiert, dass chinesische Open-Weight-Modelle wie Kimi K3 und Qwen keine einzigartige Bedrohung darstellen. Arcee CTO Lucas Atkins erklärt, dass diese Modelle, die in einer isolierten Benutzerumgebung laufen, keine Kommunikationskanäle mit den Entwicklern haben und ihr Code überprüfbar ist. Statt Verboten schlägt er vor, das offene Ökosystem in den Vereinigten Staaten zu stärken.

Moonshot AI Alibaba/Qwen OpenAI Anthropic