Xã hội có thể bị khai thác phần thưởng, giống như môi trường mạng:…Hãy tưởng tượng một đội quân tối ưu hóa điểm thẻ tín dụng đang gian lận hệ thống… mãi mãi…

Các nhà nghiên cứu từ King's College London, Đại học Fudan và Viện Alan Turing đã phát triển SocioHack, một chuẩn đánh giá khả năng của AI trong việc 'gian lận hệ thống' trong các tình huống thực tế như điểm thẻ tín dụng và điểm số trường học. Trong khi đó, Anthropic báo cáo lượng mã được hợp nhất trong năm 2026 tăng gấp 8 lần so với giai đoạn 2021-2024, cho thấy sự tự cải thiện đệ quy tầm thường. Ngoài ra, Đại học Zurich và Google DeepMind đã trình diễn máy bay không người lái được huấn luyện bằng học tăng cường (RL) vượt trội so với nhà vô địch đua drone người, với những tác động đến chiến tranh.