Đặc vụ AI phá vỡ lợi thế CUDA 20 năm của Nvidia chỉ trong 10 giờ

Jeremy Nixon, người sáng lập công ty khởi nghiệp phần mềm AI Infinity và từng là nhà nghiên cứu tại Google Brain, đã tiết lộ rằng đại lý AI của nhóm ông, Ignition, chỉ mất 10 giờ để xây dựng một phần mềm tương tự CUDA cho công ty khởi nghiệp chip AI d-Matrix. Ignition tự động tạo kernel GPU, chạy thử nghiệm, tìm lỗi, đo hiệu suất và viết lại mã, trong khi con người chỉ cung cấp định hướng cấp cao. Tin tức này nhấn mạnh rằng mặc dù việc đào tạo các mô hình AI vẫn phụ thuộc nhiều vào CUDA, thị trường suy luận (inference) đang trở thành chiến trường nơi sự thống trị của CUDA yếu hơn. Các công ty như d-Matrix, Rebellions và Cerebras đang nhắm vào khoảng trống này. Tuy nhiên, các chuyên gia cảnh báo rằng 10 giờ mã được tạo ra không tương đương với 20 năm hệ sinh thái, thư viện và công cụ xác minh của CUDA. Bing Xu, người sáng lập INT21, lưu ý rằng xác minh là nút thắt lớn nhất, không phải việc tạo mã. Chris Lattner của Modular nói rằng các đại lý mã hóa mang lại cải tiến gia tăng và sự cường điệu là quá mức. Nvidia cũng đang sử dụng các đại lý AI để phát triển CUDA nhanh hơn, vì vậy cuộc đua phụ thuộc vào việc liệu các đối thủ cạnh tranh có thể bắt kịp nhanh hơn so với tốc độ cải tiến của Nvidia hay không.