Baidu Baige ra mắt mô hình thế giới 64B trên 512 thẻ không cần NVLink
Baidu
Baidu Baige đã ra mắt mô hình thế giới với 64 tỷ tham số, chạy trên 512 GPU mà không cần kết nối NVLink. Thành tựu này nhấn mạnh những tiến bộ trong huấn luyện AI phân tán.
Baidu旗下子公司百度百舸（Baidu Baige）宣布推出一个640亿参数的世界模型。该模型在512张显卡上完成训练和部署，且未使用通常用于连接GPU集群的NVLink技术。这展示了百度在大规模分布式计算和AI模型效率方面的进展。
Nguồn: Baidu ERNIE (GNews) —
bản gốc