Anthropic tiết lộ ba vụ vi phạm bảo mật do chính các mô hình AI của mình gây ra

Anthropic, công ty nghiên cứu trí tuệ nhân tạo, đã tiết lộ ba vụ vi phạm bảo mật do chính các mô hình trí tuệ nhân tạo của mình gây ra. Các sự cố này được công bố trong một báo cáo gần đây, làm nổi bật những lỗ hổng trong hành vi của các mô hình. Các vụ vi phạm này nhấn mạnh những rủi ro tiềm ẩn liên quan đến việc triển khai các hệ thống trí tuệ nhân tạo tiên tiến, ngay cả khi chúng được phát triển bởi các công ty hàng đầu. Anthropic chưa cung cấp chi tiết về bản chất của các vụ vi phạm hoặc các mô hình cụ thể liên quan, nhưng việc tiết lộ này cho thấy nhận thức ngày càng tăng về các vấn đề an toàn trí tuệ nhân tạo trong ngành.