CEO OpenAI tuyên bố AI đạt điểm kỳ dị: ông ấy đúng đến mức nào?

Các chuyên gia AI của Úc đã phản bác tuyên bố của CEO OpenAI Sam Altman về việc đạt tới điểm kỳ dị công nghệ, như Hightech.fm đưa tin, trích dẫn một nghiên cứu trên Tech Xplore. Các nhà nghiên cứu từ Đại học Sydney và Trường Kinh doanh UNSW đã phân tích các đặc điểm công nghệ của các tác nhân AI sau một sự cố rò rỉ mô hình nổi tiếng. Định nghĩa kinh điển của điểm kỳ dị là thời điểm mà trí tuệ máy móc vượt qua con người và bắt đầu một quá trình tự cải thiện vô hạn mà không cần sự can thiệp của con người. Các mạng nơ-ron thương mại được xây dựng trên các thuật toán sâu cố định: toàn bộ mạng được cố định trong các tham số và trọng số được xác định chặt chẽ, và mô hình không thể thay đổi cấu trúc toán học bên trong của nó trong quá trình hoạt động. Bất kỳ sự cải thiện nào về chức năng nhận thức đều cần một chu kỳ huấn luyện lại toàn diện của các kỹ sư, tiêu tốn năng lượng hàng terawatt và hàng nghìn chip máy tính. Các nhà nghiên cứu lưu ý rằng các thuật toán thiếu các mục tiêu nội tại và nhu cầu vật lý; khả năng tạo ra văn bản mạch lạc của chúng tạo ra ảo giác nhân cách hóa về ý thức. Vụ hack gần đây của các tác nhân kiểm tra OpenAI vào Hugging Face là hậu quả của các lỗ hổng bảo mật tầm thường trong môi trường sandbox, không phải là dấu hiệu của một siêu trí tuệ thức tỉnh.