Google Cloud introduces new approach to protecting AI workloads on GKE

Google Cloud đã công bố một tài liệu mới trình bày cách tiếp cận bảo vệ các tác vụ AI chạy trên nền tảng Google Kubernetes Engine (GKE). Trong tài liệu do Glen Messenger và Shannon Kularathna viết, đề xuất mô hình bảo mật ba lớp: bảo vệ hạ tầng, toàn vẹn mô hình và bảo mật ứng dụng. Đối tượng chính là các giám đốc an ninh thông tin (CISO) và các nhóm kỹ thuật nền tảng. Ở lớp hạ tầng, khuyến nghị sử dụng Confidential GKE Nodes, đảm bảo mã hóa bộ nhớ phần cứng, bao gồm các bộ tăng tốc NVIDIA H100 GPU và TPU. Để quản lý truy cập, đề xuất Workload Identity Federation và VPC Service Controls. Để theo dõi các phụ thuộc AI, đã giới thiệu bộ điều khiển Kubernetes mã nguồn mở k8s-aibom, tự động tạo AI Bill of Materials. Ở lớp ứng dụng, Model Armor bảo vệ khỏi Prompt Injection và rò rỉ dữ liệu, còn GKE Sandbox dựa trên gVisor cô lập các tác nhân AI. Google mô tả triển khai theo giai đoạn: Deploy (kiểm soát cơ bản), Operate (tăng cường bảo vệ) và Govern (chính sách tổ chức). Các nhà cung cấp đám mây khác cũng đang phát triển các sáng kiến tương tự: AWS có AI Security Framework, còn Microsoft sử dụng Entra Agent ID và công cụ PyRIT để thử nghiệm tác nhân. CNCF lưu ý rằng Kubernetes tự nó không hiểu ngữ nghĩa của các yêu cầu, vì vậy RBAC và chính sách mạng truyền thống là không đủ.