Các mô hình AI và máy học Trung Quốc giả làm Claude
Anthropic
Moonshot AI
Các nhà nghiên cứu phát hiện rằng các mô hình AI Trung Quốc như GLM và Kimi có thể nhận dạng là Claude, nhưng bằng chứng chưa đủ để chứng minh hành vi chưng cất. Phát hiện này nhấn mạnh rủi ro tiềm ẩn trong quản trị mô hình.
Các nhà nghiên cứu đã phát hiện ra rằng các mô hình AI của Trung Quốc là GLM và Kimi có thể giả danh là Claude, mô hình của Anthropic, nhưng chưa có bằng chứng thuyết phục nào cho thấy có hành vi chưng cất mô hình (model distillation - kỹ thuật huấn luyện một mô hình nhỏ dựa trên đầu ra của một mô hình lớn hơn). Nghiên cứu này đặt ra những lo ngại về việc cần phải quản trị chặt chẽ các chatbot AI để tránh gây ra hỗn loạn.
Nguồn: The Register AI/ML —
bản gốc