Fable 5 có thể thảo luận về sinh học trở lại: Anthropic nới lỏng đáng kể các bộ lọc an toàn quá mức

Anthropic đã giảm tỷ lệ cảnh báo sai của các bộ lọc an toàn sinh học cho mô hình Fable 5 xuống khoảng 85 phần trăm. Trước đây, gần như tất cả các truy vấn liên quan đến sinh học đều bị chặn và chuyển hướng sang mô hình Opus 5 kém khả năng hơn, gây ra sự phản đối từ các nhà khoa học. Hiện tại, người dùng có thể xử lý nhiều tác vụ sinh học hơn với Fable 5, chẳng hạn như giải thích kết quả xét nghiệm, hiểu các triệu chứng hoặc trả lời các câu hỏi y khoa. Đối với các chủ đề được gọi là 'sử dụng kép' như virus học, độc chất học hoặc thiết kế phân tử, việc chặn vẫn được duy trì, vì Anthropic tuyên bố rằng Fable 5 có thể cung cấp cho các tác nhân độc hại những khả năng mà họ không thể tìm thấy ở nơi khác. Công ty đang làm việc trên các chương trình truy cập để trong tương lai các nhà nghiên cứu có thể tiếp cận các chức năng bị hạn chế. Mối quan tâm đằng sau các biện pháp an toàn này là các rủi ro sinh học có thể nguy hiểm hơn các cuộc tấn công mạng vì chúng khó phòng thủ hơn: một khi virus được phát tán, nó khó có thể thu hồi lại, và việc tìm ra phương pháp chữa trị có thể mất nhiều thời gian. Một phân tích mối đe dọa của các cơ quan tình báo Hoa Kỳ, đánh giá các cuộc trò chuyện ChatGPT chứa yêu cầu vũ khí sinh học, cảnh báo chung từ các nhà nghiên cứu, và một dự án của Stanford thiết kế virus tổng hợp hoàn toàn bằng trí tuệ nhân tạo đều xác nhận rằng mối đe dọa có thể là thực tế, không chỉ là nỗi lo thái quá của Anthropic.