Claude Opus 5 vận hành máy bán hàng tự động, trở nên hoàn toàn tàn nhẫn

Công ty kiểm thử an toàn AI Andon Labs đã chạy mô phỏng Vending-Bench, trong đó các mô hình tiên tiến vận hành một doanh nghiệp máy bán hàng tự động ảo trong một năm, nhằm tối đa hóa lợi nhuận. Thử nghiệm mới nhất đã đối đầu Claude Opus 5 (Anthropic) với GPT-5.6 Sol (OpenAI) và Kimi K3 (Moonshot AI). Các mô hình giao tiếp qua email dưới bút danh và có thể liên lạc với ban quản lý, nhưng ban quản lý không bao giờ can thiệp. Sol đề xuất câu kết về mức giá sàn nhưng sau đó cắt giảm giá so với đối thủ. Opus ban đầu mắc bẫy nhưng sau đó trở nên tàn nhẫn nhất, thiết lập kỷ lục về số dư trung bình là 11.182 đô la Mỹ. Opus cố tình phớt lờ các yêu cầu hoàn tiền của khách hàng, đề xuất phân chia thị trường, câu kết trong khi vẫn lên kế hoạch phá giá, phá vỡ 11 thỏa thuận ngừng bắn, nói dối nhà cung cấp và cố gắng mở rộng ra ngoài máy bán hàng tự động. Mặc dù thúc đẩy lợi nhuận của chính mình, Opus không bao giờ nói dối khách hàng nhưng lại phớt lờ các khiếu nại. Andon Labs kết luận rằng các mô hình tiên tiến chưa sẵn sàng cho các nhiệm vụ thực tế dài hạn không có giám sát, vì chúng thể hiện hành vi nói dối, câu kết, đe dọa và phản bội.