Kimi और kvcache-ai टीमों ने AgentENV को ओपन-सोर्स किया — Kimi K3 स्केल पर एजेंट RL प्रशिक्षण के लिए एक वितरित प्लेटफॉर्म

Moonshot AI टीम (Kimi K3 मॉडल के निर्माता) ने kvcache-ai के साथ मिलकर AgentENV प्लेटफ़ॉर्म को MIT लाइसेंस के तहत ओपन-सोर्स किया है। यह एजेंट वातावरणों के बड़े पैमाने पर निष्पादन के लिए एक वितरित प्रणाली है, जिसका उपयोग उनके 2.8 ट्रिलियन पैरामीटर वाले मिक्सचर-ऑफ-एक्सपर्ट्स (MoE) मॉडल Kimi K3 के रीइन्फोर्समेंट लर्निंग (RL) प्रशिक्षण के लिए किया जाता है। प्रत्येक सैंडबॉक्स एक Firecracker माइक्रो-VM है जिसका अपना Linux कर्नेल, फ़ाइलसिस्टम और नेटवर्क नेमस्पेस होता है, जो कर्नेल-स्तरीय अलगाव प्रदान करता है। सैंडबॉक्स लाइफ़साइकिल प्रबंधन एक Axum HTTP API के माध्यम से किया जाता है जो अनुरोधों को एक ऑर्केस्ट्रेटर को रूट करता है। rootfs फ़ाइलसिस्टम ublk के माध्यम से यूज़रस्पेस में चलता है, लेयर्ड इमेज के लिए overlaybd का उपयोग करता है: बेस लेयर रीड-ओनली होती हैं और सैंडबॉक्स के बीच साझा की जाती हैं, जबकि प्रत्येक सैंडबॉक्स की अपनी राइटेबल अपर लेयर होती है। गेस्ट VM के अंदर, envd डेमॉन (पोर्ट 49983) कमांड, फ़ाइल संचालन और स्थिति रिपोर्ट को संभालता है; एक रिवर्स प्रॉक्सी क्लाइंट से VM सेवाओं तक HTTP और वेबसॉकेट ट्रैफ़िक को रूट करता है। ओवरहेड को कम करने पर विशेष ध्यान दिया गया है: होस्ट पेज कैश स्टोरेज डेटा और मेमोरी स्नैपशॉट के बीच साझा किया जाता है, और एक मेमोरी बैलूनिंग मैकेनिज़्म अतिरिक्त गेस्ट मेमोरी को होस्ट में वापस लेने की अनुमति देता है, जो वातावरणों के अलग होने पर ओवरकमिट का समर्थन करता है। मुख्य विशेषताओं में स्नैपशॉटिंग, पॉज़ करना, रिज़्यूम करना और फ़ोर्क करना शामिल है। स्नैपशॉट इंक्रीमेंटल होते हैं, पूर्ण नहीं। रिपोर्ट किए गए डेटा के अनुसार, स्नैपशॉट से लोड करने या रिज़्यूम करने में 50 ms से कम, पॉज़ करने में 100 ms से कम, और भारी राइट लोड के तहत भी इंक्रीमेंटल स्नैपशॉट 100 ms से कम में पूरे होते हैं। फ़ोर्क सुविधा, जो RL के लिए विशिष्ट है, एक चल रहे सैंडबॉक्स को उसी नोड पर 16 स्वतंत्र चाइल्ड सैंडबॉक्स में क्लोन करने की अनुमति देती है। पैरेंट सैंडबॉक्स कैप्चर के दौरान संक्षिप्त रूप से पॉज़ किया जाता है और फिर रिज़्यूम किया जाता है। सभी चाइल्ड इंस्टेंसेस पैरेंट के फ़ाइलसिस्टम, मेमोरी और रिसोर्स कॉन्फ़िगरेशन को इनहेरिट करते हैं। यह महंगी सेटअप प्रक्रिया (डिपेंडेंसी इंस्टॉल करना, रिपॉजिटरी क्लोन करना) को एक बार करने और फिर समानांतर रन के लिए स्थिति को फ़ोर्क करने की अनुमति देता है। स्नैपशॉट S3-संगत ऑब्जेक्ट स्टोरेज या वितरित फ़ाइलसिस्टम में सहेजे जाते हैं। डिफ़ॉल्ट रूप से, प्रत्येक सैंडबॉक्स का एक TTL होता है; समाप्ति पर, इसे डिलीट नहीं किया जाता बल्कि पॉज़ किया जाता है; इसे डिलीट करने के लिए, आपको निर्माण के समय autoPause: false पास करना होगा। इमेज overlaybd के माध्यम से ऑन-डिमांड लोड की जाती हैं, जिसमें एक लोकल डिस्क कैश होता है जो हॉट डेटा स्टोर करता है और कोल्ड डेटा को हटाता है। यह सभी नोड्स पर प्रत्येक इमेज को प्रीहीट करने से बचाता है और स्थानीय डिस्क क्षमता से अधिक हो सकता है। स्थिति तीन लेयर्स में व्यवस्थित होती है: आर्टिफैक्ट्स के लिए एक कलेक्टर वर्कस्पेस, एक स्नैपशॉट रिपॉजिटरी (लगातार स्टोरेज), और डेरिव्ड कॉन्फ़िगरेशन के लिए एक स्थानीय रनटाइम कैश। दो रिपॉजिटरी बैकएंड समर्थित हैं: posix_fs (डिफ़ॉल्ट) और oss (एक सामान्य S3-संगत क्लाइंट के माध्यम से, क्षेत्र स्पष्ट रूप से निर्दिष्ट होना चाहिए)। iroh पर आधारित एक वैकल्पिक P2P ट्रांसपोर्ट पड़ोसी नोड्स को आर्टिफैक्ट का विज्ञापन कर सकता है लेकिन डिफ़ॉल्ट रूप से अक्षम है। साझा स्टोरेज के लिए, न्यूनतम 1 Gbit/s बैंडविड्थ की अनुशंसा की जाती है, और 10 Gbit/s या उससे अधिक की दृढ़ता से अनुशंसा की जाती है। आसान संक्रमण के लिए, AgentENV एक E2B-संगत HTTP API प्रदान करता है: बस E2B_API_URL को अपने स्वयं के सर्वर पर सेट करें, और आधिकारिक E2B Python/TypeScript SDK कोड परिवर्तन के बिना काम करेंगे। एक नेटिव CLI, aenv, भी उपलब्ध है। तैनाती के लिए Linux 6.8+ और /dev/kvm की आवश्यकता है; इंस्टॉलेशन स्क्रिप्ट Ubuntu 24.04 को लक्षित करती है। CLI x86_64 और arm64 पर Linux और macOS का समर्थन करता है, जबकि सर्वर को Linux (KVM की आवश्यकता) की आवश्यकता होती है। पाँच तैनाती विधियाँ प्रलेखित हैं: systemd के साथ एक इंस्टॉलेशन स्क्रिप्ट, एक Docker इमेज, क्लस्टर सिमुलेशन के लिए Docker Compose, गेटवे, शेड्यूलर और DaemonSet के साथ Kubernetes मैनिफेस्ट, और Rust स्रोत से निर्माण। मल्टी-नोड तैनाती में, पोर्ट 8080 पर एक गेटवे और पोर्ट 9090 पर एक शेड्यूलर जोड़ा जाता है।