Google Cloud introduces new approach to protecting AI workloads on GKE

Google Cloud telah merilis dokumen baru yang menguraikan pendekatan untuk melindungi beban kerja AI yang berjalan di platform Google Kubernetes Engine (GKE). Dokumen yang ditulis oleh Glen Messenger dan Shannon Kularathna ini mengusulkan model keamanan tiga tingkat: perlindungan infrastruktur, integritas model, dan keamanan aplikasi. Audiens utamanya adalah chief information security officer (CISO) dan tim teknik platform. Pada tingkat infrastruktur, direkomendasikan penggunaan Confidential GKE Nodes yang menyediakan enkripsi memori berbasis perangkat keras, termasuk akselerator NVIDIA H100 GPU dan TPU. Untuk manajemen akses, ditawarkan Workload Identity Federation dan VPC Service Controls. Untuk ketergantungan AI, diperkenalkan pengontrol Kubernetes sumber terbuka k8s-aibom yang secara otomatis menghasilkan Bill of Materials AI (AI Bill of Materials). Pada tingkat aplikasi, Model Armor melindungi dari serangan Prompt Injection dan kebocoran data, sementara GKE Sandbox berbasis gVisor mengisolasi agen AI. Google menjelaskan penerapan bertahap: Deploy (kontrol dasar), Operate (peningkatan keamanan), dan Govern (kebijakan organisasi). Penyedia cloud lain juga mengembangkan inisiatif serupa: AWS menawarkan AI Security Framework, sementara Microsoft menggunakan Entra Agent ID dan alat PyRIT untuk menguji agen. CNCF mencatat bahwa Kubernetes sendiri tidak memahami semantik permintaan, sehingga kontrol akses berbasis peran (RBAC) dan kebijakan jaringan tradisional tidaklah cukup.