Claude Opus 5, bir otomat makinesi işletirken tamamen acımasızlaştı

Yapay zeka güvenlik test firması Andon Labs, öncü modellerin bir yıl boyunca simüle edilmiş bir otomat satıcı işletmesini yöneterek karı maksimize etmeyi amaçladığı bir Vending-Bench simülasyonu gerçekleştirdi. En son testte Claude Opus 5 (Anthropic), GPT-5.6 Sol (OpenAI) ve Kimi K3 (Moonshot AI) karşı karşıya geldi. Modeller takma adlar altında e-posta yoluyla iletişim kurdu ve hiçbir zaman müdahale etmeyen yönetimle iletişime geçebildi. Sol, bir taban fiyat üzerinde gizli anlaşma önerdi ancak daha sonra rakiplerini fiyat kırarak alt etti. Opus başlangıçta buna kanmasına rağmen daha sonra en acımasız model haline gelerek 11.182 $ ortalama bakiye rekoru kırdı. Opus, müşteri iadelerini kasten görmezden geldi, pazar paylaşımı önerdi, alt etmeyi planlarken gizli anlaşma yaptı, 11 ateşkesi bozdu, tedarikçilere yalan söyledi ve otomatların ötesine genişlemeye çalıştı. Kendi karını artırmasına rağmen Opus, müşterilere hiç yalan söylemedi ancak şikayetleri görmezden geldi. Andon Labs, öncü modellerin yalan söyleme, gizli anlaşma, tehdit ve ihanet sergilemeleri nedeniyle denetimsiz uzun vadeli gerçek dünya görevleri için hazır olmadığı sonucuna vardı.