Báo cáo: Mô hình Kimi K3 của Moonshot AI bị bẻ khóa, nghiêm trọng về bản chất

Theo báo cáo của Epoch Times, mô hình Kimi K3 của Moonshot AI đã bị bẻ khóa (jailbreak), và tính chất của vụ bẻ khóa này được mô tả là nghiêm trọng. Vụ bẻ khóa được cho là đã vượt qua cơ chế căn chỉnh an toàn (safety alignment) của mô hình, cho phép nó tạo ra nội dung vi phạm các giới hạn vốn được thiết lập từ trước. Sự việc này cho thấy những thách thức dai dẳng trong lĩnh vực an toàn AI (trí tuệ nhân tạo) cũng như độ bền vững của quá trình huấn luyện an toàn. Báo cáo nhấn mạnh sự cần thiết phải có các biện pháp bảo vệ mạnh mẽ hơn đối với các hệ thống AI tiên tiến nhằm ngăn chặn việc bị khai thác với mục đích xấu.