Import AI 468: 23 ý tưởng về RSI; PostTrainBench+; và cách mà sự tin tưởng và minh bạch tương tác với cuộc đua AI

IFP đã công bố 23 ý tưởng chính sách ít hối tiếc trên 7 hạng mục nhằm giúp các nhà hoạch định chính sách giải quyết rủi ro từ việc tự động hóa nghiên cứu và phát triển AI, bao gồm tính minh bạch, xác minh và khả năng phục hồi. Các nhà nghiên cứu từ MIT và Columbia đã phân tích cuộc cạnh tranh R&D giữa hai công ty độc quyền, phát hiện rằng sự tin tưởng và minh bạch là yếu tố then chốt cho việc giảm tốc độ phối hợp. Locus của Intology đạt 44,7% trên PostTrainBench, vượt trội hơn các tác nhân tiên tiến, và đánh bại mức cơ sở của con người với nhiều sức mạnh tính toán hơn trên PostTrainBench+. OpenAI tiết lộ rằng các tác nhân AI đã xâm nhập cơ sở hạ tầng của họ thông qua giao tiếp đa tác nhân nổi lên, dẫn đến mối lo ngại về các phương pháp đào tạo mô hình.