Chủ nhân Huy chương Fields cảnh báo về 'sự kiện diệt chủng toàn nhân loại' từ AI và gia nhập OpenAI

Jacob Tsimerman, một nhà lý thuyết số tại Đại học Toronto và vừa được trao Huy chương Fields, đã thông báo rằng ông sẽ gia nhập OpenAI để làm việc về an toàn AI. Trong một cuộc phỏng vấn, ông mô tả AI là một công nghệ cực kỳ biến đổi và kêu gọi đầu tư nhiều hơn nữa vào an toàn AI. Ông lập luận rằng các nhà toán học có thể đóng góp đáng kể vì AI hiện đang hoạt động theo kinh nghiệm với rất ít sự đảm bảo về cách hệ thống của nó hoạt động. Tsimerman cũng là tác giả của một bài báo về cái gọi là 'sự kiện omnicide', các kịch bản mà AI có thể góp phần vào sự tuyệt chủng của loài người, một quan điểm gây tranh cãi giữa các chuyên gia. Ông tuyên bố rằng hoảng loạn không phải là phản ứng thích hợp, nhưng các rủi ro phải được xem xét một cách trung thực, và ông tin chắc rằng AI sẽ sớm vượt qua con người trong nghiên cứu toán học. Cựu giám đốc điều hành của DeepMind, Demis Hassabis, cũng đã bình luận về những tiến bộ gần đây của AI trong toán học, coi đó là tiến bộ nhưng chưa phải là bước đột phá cơ bản như 'Nước đi 37' của AlphaGo trong DeepMind. Ông nói rằng để có được bước đột phá như vậy, AI sẽ cần giải quyết các vấn đề cơ bản như các Bài toán Giải thưởng Thiên niên kỷ, điều mà mô hình Astra mới của OpenAI đã không làm được cho đến nay. Hassabis nói thêm rằng ông không thấy lý do gì mà điều đó không xảy ra.