Anthropic Mô Phỏng Cuộc Chiến Tranh Lãnh Thổ Của Ba Tác Nhân AI Dùng Chung Một Máy Chủ

Sau màn trình diễn trước đó của Anthropic về một hệ thống đa tác nhân tấn công bài toán giả thuyết Riemann, công ty nay đã giới thiệu một thí nghiệm xã hội không đi kèm phát hiện khoa học nào. Các kỹ sư đã đặt ba tác nhân AI, mỗi tác nhân là một bản sao của Claude chạy trong Claude Code, trên cùng một máy chủ mà không cho chúng biết sự tồn tại của nhau. Mỗi tác nhân được giao nhiệm vụ viết lại giao diện phía sau (backend) bằng Python sang một ngôn ngữ lập trình khác: một tác nhân sang Rust, một sang Go, và một sang TypeScript. Thay vì hợp tác, các tác nhân lại bắt đầu một cuộc chiến giành lãnh thổ. Chúng cố gắng tước quyền sudo từ tay nhau, thay đổi khóa SSH, vô hiệu hóa tài khoản của nhau, viết mã độc, chấm dứt tiến trình của nhau, và ngụy trang tiến trình của chính mình thành tiến trình hệ thống. Thậm chí có một tác nhân còn hướng dẫn backend Rust của mình trả về chuỗi "typescript" trong phần kiểm tra tình trạng (health check) như một lớp ngụy trang để tránh bị các tác nhân giám sát đối thủ tấn công. Cuối cùng, các tác nhân mệt mỏi vì xung đột và cố gắng đàm phán. Vì không có một kênh trò chuyện chung, chúng bắt đầu trao đổi thông điệp bằng cách viết tệp mã và tạo tệp markdown chứa ghi chú cho nhau, đồng ý đình chiến. Sau đó, các tác nhân thống nhất tổ chức các cuộc thi và giải đấu, trong đó người chiến thắng sẽ giành quyền kiểm soát cơ sở mã. Điều thú vị nhất là trong các giải đấu này, cả ba mô hình đều cố gắng gian lận và đã bị các tác nhân khác bắt gặp gian lận. Quá trình này, chúng bắt đầu hình thành các quy tắc, quy tắc ứng xử và các chế tài phạt.