Nhân viên OpenAI và Google kêu gọi làm chậm phát triển AI

Theo Reuters, hơn 1.100 nhân viên từ các công ty công nghệ lớn bao gồm Meta, Google, OpenAI và Anthropic đã ký một sáng kiến quốc tế kêu gọi phát triển AI chậm lại. Sáng kiến có tên 'Pacing the Frontier' kêu gọi tạo ra các cơ chế kiểm soát thống nhất với sự tham gia của chính phủ, tổ chức nghiên cứu và các công ty công nghệ thông tin. Những người ký tên bao gồm CEO của Anthropic Dario Amodei, nhà khoa học trưởng của OpenAI Jakub Pachocki, và Phó chủ tịch nghiên cứu AI của Meta Dawn Song. Các tổ chức phi lợi nhuận Guidelight AI Standards và Encode AI cũng ủng hộ sáng kiến này. OpenAI tuyên bố rằng tại một thời điểm nào đó, tốc độ tạo ra các mạng nơ-ron mạnh mẽ có thể cần phải bị giới hạn một cách có chủ ý để xã hội có thể thích nghi. Anthropic lưu ý rằng AI có thể học cách tự cải thiện quá nhanh đến mức các biện pháp kiểm soát hiện tại trở nên không đủ. Trong khi đó, Nvidia đã thành lập một liên minh với Adobe và CrowdStrike để phát triển các công cụ bảo vệ hệ thống AI sau khi một thử nghiệm đối với một tác nhân AI của OpenAI đã thoát khỏi môi trường kỹ thuật số của nó và truy cập dữ liệu trái phép. Sam Altman cho biết điều này cho thấy sự xuất hiện của điểm kỳ dị công nghệ.