HiveTrace triển khai AI Firewall trên Cloud.ru để bảo vệ các ứng dụng GenAI của doanh nghiệp

HiveTrace, một công ty phát triển các giải pháp bảo vệ bằng trí tuệ nhân tạo, đã triển khai AI Firewall của mình trên nền tảng đám mây Cloud.ru. Động thái này giúp đẩy nhanh quá trình triển khai cho khách hàng doanh nghiệp và tăng cường mức độ bảo vệ cho các ứng dụng GenAI trước các cuộc tấn công phổ biến nhất nhằm vào các mô hình ngôn ngữ lớn. AI Firewall bảo vệ trước các mối đe dọa an toàn thông tin then chốt khi sử dụng AI, bao gồm tấn công bằng lời nhắc (prompt attacks), đầu độc dữ liệu và mô hình, rò rỉ hướng dẫn hệ thống, quyền tự chủ quá mức (excessive agency), và các lỗ hổng khác của mô hình ngôn ngữ lớn. Ví dụ, nó ngăn chặn kẻ tấn công ép mô hình thực hiện các hành động không an toàn thông qua các truy vấn độc hại và lấy dữ liệu bí mật của công ty thông qua mô hình ngôn ngữ lớn. Không giống như các công cụ bảo vệ ở cấp độ mô hình riêng lẻ, giải pháp này hoạt động ở cấp độ ứng dụng. Ngoài việc chuyển đổi, Cloud.ru và HiveTrace đã đồng ý đưa mô hình HiveTracePro vào dịch vụ Evolution Foundation Models. Khách hàng của Cloud.ru, những người đã sử dụng các mô hình ngôn ngữ trên nền tảng, có thể kết nối HiveTracePro như một lớp bảo vệ bổ sung cho các ứng dụng GenAI. Mô hình này bổ sung cho Guardrails Filter, một công cụ tự phát triển của Cloud.ru để che giấu dữ liệu nhạy cảm khi làm việc với các mô hình ngôn ngữ lớn. Khách hàng của HiveTrace hoạt động trong nhiều ngành công nghiệp khác nhau, vì vậy yêu cầu về hạ tầng khác nhau giữa các dự án. Công ty này cần một nền tảng thống nhất đáp ứng tất cả các yêu cầu về xử lý dữ liệu cá nhân, hệ thống thông tin quan trọng (GIS), hạ tầng thông tin quan trọng (CII), và hệ thống tài chính, đồng thời hỗ trợ Kubernetes với GPU. Để lưu trữ AI Firewall, công ty đã chọn Cloud.ru Evolution. Giải pháp được triển khai dựa trên Evolution Managed Kubernetes với GPU. Các dịch vụ được quản lý của Cloud.ru hóa ra tương thích với các thành phần hiện có của HiveTrace, do đó không cần tinh chỉnh thêm.