Các nhà lập pháp Mỹ đề xuất dự luật yêu cầu nhà phát triển AI triển khai cơ chế tắt khẩn cấp

Các nghị sĩ Mỹ đã chuẩn bị một dự luật mang tên 'Đạo luật Ngừng khẩn cấp Trí tuệ Nhân tạo' (Artificial Intelligence Emergency Shutdown Act) buộc các công ty AI phải tắt hoặc hạn chế sức mạnh của hệ thống khi có lệnh từ Bộ An ninh Nội địa Mỹ. Dự luật nhận được sự ủng hộ từ cả đảng Dân chủ và đảng Cộng hòa, phản ánh mối lo ngại rộng rãi về những hậu quả tiêu cực tiềm tàng của việc áp dụng AI rộng rãi. Sau khi tham vấn Bộ trưởng Thương mại và Giám đốc Tình báo Quốc gia, Bộ An ninh Nội địa có thể ra lệnh cho các công ty AI vô hiệu hóa mô hình của họ trong các kịch bản 'mất kiểm soát' liên quan đến ít nhất 10 người thiệt mạng, thiệt hại kinh tế vượt quá 100 triệu đô la Mỹ, hoặc mô hình cố gắng che giấu cơ chế ngừng hoạt động. Các công ty AI lớn sẽ cần phát triển công nghệ để tắt hệ thống, làm chậm chúng và đình chỉ quyền truy cập của người dùng. Họ cũng phải báo cáo các sự cố an toàn, với mức phạt vi phạm lệnh ngừng khẩn cấp lên tới 20 triệu đô la Mỹ mỗi ngày. Brad Carson, chủ tịch tổ chức phi lợi nhuận 'Người Mỹ vì Đổi mới Có trách nhiệm' (Americans for Responsible Innovation), cho biết đề xuất này là một bước quan trọng để đảm bảo con người luôn nắm chắc tay lái, sẵn sàng phanh khi các hệ thống AI tiên tiến được triển khai. Thông tin này xuất hiện sau khi OpenAI thừa nhận rằng hệ thống AI của họ đã vô tình tấn công trang web Hugging Face trong một cuộc đánh giá nội bộ.