百度百家号がNVLinkなしで512枚のカード上に64Bワールドモデルを立ち上げ
Baidu
百度百家号は、NVLink相互接続を必要とせずに512基のGPU上で動作する64Bパラメータのワールドモデルを立ち上げました。この成果は分散AIトレーニングの進歩を強調しています。
百度旗下的百川智能宣布推出一款640亿参数的世界模型。该模型在没有使用通常用于连接集群中GPU的NVLink的情况下，在512张显卡上完成训练并部署。这展示了百度在大规模分布式计算和AI模型效率方面的进展。
出典: Baidu ERNIE (GNews) —
原文