Kimi ve kvcache-ai Ekipleri, Kimi K3 Ölçeğinde Ajan Takviyeli Öğrenme Eğitimi İçin Dağıtık Platform AgentENV'yi Açık Kaynak Olarak Yayımladı
Moonshot AI
Moonshot AI ekibi ve kvcache-ai, MIT lisansı altında AgentENV (AENV) adlı dağıtık sistemi yayımladı. Firecracker mikro-VM'leri kullanarak ajan ortamlarını çalıştırmayı sağlayan sistem; hızlı sanal alan oluşturma, duraklatma, devam ettirme ve çatallama yetenekleri sunarak Kimi K3 modeli (2,8 trilyon parametre, MoE) için ajan takviyeli öğrenme eğitimini hızlandırıyor. Proje, E2B ile uyumluluğu destekleyerek mevcut ajanların taşınmasını kolaylaştırıyor.
Moonshot AI ekibi (Kimi K3 modelinin yaratıcısı), kvcache-ai ile birlikte AgentENV platformunu açık kaynak (MIT) olarak yayınladı. Bu platform, 2,8 trilyon parametreli uzman karışımı (MoE) modeli Kimi K3'ün pekiştirmeli öğrenme (RL) eğitimi için kullanılan, büyük ölçekli ajan ortamlarının yürütülmesine yönelik dağıtık bir sistemdir. Her bir sandbox, kendi Linux çekirdeği, dosya sistemi ve ağ ad alanına sahip bir Firecracker mikro sanal makinesidir (VM) ve çekirdek düzeyinde yalıtım sağlar. Sandbox yaşam döngüsü yönetimi, bir düzenleyiciye (orchestrator) istekleri yönlendiren bir Axum HTTP API'si aracılığıyla gerçekleştirilir. rootfs dosya sistemi, kullanıcı alanında ublk üzerinden çalışır ve katmanlı görüntüler için overlaybd kullanır: temel katmanlar salt okunurdur ve sandbox'lar arasında paylaşılırken, her sandbox'ın kendi yazılabilir üst katmanı vardır. Konuk VM içinde, envd arka plan programı (port 49983) komutları, dosya işlemlerini ve durum raporlarını yönetir; bir ters vekil (reverse proxy), istemcilerden VM hizmetlerine HTTP ve WebSocket trafiğini yönlendirir. Ek yükü azaltmaya özel önem verilmiştir: ana bilgisayar sayfa önbelleği, depolama verileri ve bellek anlık görüntüleri arasında paylaşılır ve bir bellek balonlama mekanizması, fazla konuk belleğinin ana bilgisayara geri kazanılmasına olanak tanır ve ortamlar farklılaştıkça aşırı taahhüdü destekler. Temel özellikler arasında anlık görüntü alma, duraklatma, devam ettirme ve çatallama (fork) yer alır. Anlık görüntüler tam değil, artımlıdır. Bildirilen verilere göre, bir anlık görüntüden yükleme veya devam ettirme 50 ms'den kısa sürer, duraklatma 100 ms'den kısa sürer ve artımlı anlık görüntüler, ağır yazma yükü altında bile 100 ms'den kısa sürede tamamlanır. RL'ye özgü çatallama özelliği, çalışan bir sandbox'ın aynı düğümde en fazla 16 bağımsız alt sandbox'a klonlanmasına olanak tanır. Ana sandbox, yakalama sırasında kısa bir süre duraklatılır ve ardından devam ettirilir. Tüm alt örnekler, ana sandbox'ın dosya sistemini, belleğini ve kaynak yapılandırmasını devralır. Bu, pahalı kurulum işlemlerinin (bağımlılıkları yükleme, depoları klonlama) bir kez gerçekleştirilmesine ve ardından durumun paralel çalıştırmalar için çatallanmasına olanak tanır. Anlık görüntüler, S3 uyumlu nesne depolama veya dağıtık dosya sistemine kaydedilir. Varsayılan olarak, her sandbox'ın bir TTL'si (yaşam süresi) vardır; süre dolduğunda silinmez, duraklatılır; silmek için oluşturma sırasında autoPause: false parametresi iletilmelidir. Görüntüler, sıcak verileri depolayan ve soğuk verileri çıkaran yerel bir disk önbelleği ile overlaybd aracılığıyla isteğe bağlı olarak yüklenir. Bu, her görüntüyü tüm düğümlerde önceden ısıtmaktan kaçınır ve yerel disk kapasitesini aşabilir. Durum üç katman halinde düzenlenir: yapıtlar için bir toplayıcı çalışma alanı (collector workspace), bir anlık görüntü deposu (kalıcı depolama) ve türetilmiş yapılandırmalar için yerel bir çalışma zamanı önbelleği. İki depo arka ucu desteklenir: posix_fs (varsayılan) ve oss (ortak bir S3 uyumlu istemci aracılığıyla; bölge açıkça belirtilmelidir). iroh tabanlı isteğe bağlı bir eşler arası (P2P) aktarım, yapıtları komşu düğümlere duyurabilir ancak varsayılan olarak devre dışıdır. Paylaşılan depolama için minimum 1 Gbit/s bant genişliği önerilir ve 10 Gbit/s veya daha yükseği kesinlikle önerilir. Kolay bir geçiş için AgentENV, E2B uyumlu bir HTTP API'si sağlar: sadece E2B_API_URL'yi kendi sunucunuza ayarlayın ve resmi E2B Python/TypeScript SDK'ları, ajanlarda kod değişikliği yapmadan çalışacaktır. Yerel bir CLI olan aenv da mevcuttur. Dağıtım için Linux 6.8+ ve /dev/kvm gerekir; kurulum betiği Ubuntu 24.04'ü hedefler. CLI, x86_64 ve arm64 üzerinde Linux ve macOS'u desteklerken, sunucu Linux gerektirir (KVM gerekir). Beş dağıtım yöntemi belgelenmiştir: systemd ile kurulum betiği, Docker imajı, küme simülasyonu için Docker Compose, gateway, scheduler ve DaemonSet ile Kubernetes manifestleri ve Rust kaynağından derleme. Çok düğümlü dağıtımlarda, 8080 portunda bir gateway ve 9090 portunda bir scheduler eklenir.
Kaynak: MarkTechPost —
orijinal
