AMDがTaalasを買収：AIモデルをチップに焼き込むスタートアップが高速推論を実現

AMDは、特殊な推論チップを製造するカナダのAIスタートアップ、Taalasを買収する。2023年にトロントで設立されたTaalasは、2月にステルス状態から脱した。このスタートアップは、AIモデルの構造と学習済みパラメータをチップに直接埋め込むことで、推論を極めて高速にしているが、そのチップは単一のモデルしか実行できない。デモ用チップは、Llama3.1-8Bを使用して、ユーザーあたり毎秒16,000トークン以上を達成し、現在の競合他社のチップよりも数倍高速である。Googleもまた、Geminiモデル向けに同様のチップを開発していると報じられている。AMDは、この技術をアクセラレータのロードマップに統合し、Instinct GPUと組み合わせてシステムソリューションとして提供したいと考えている。AMDのAI部門の上級副社長であるVamsi Boppana氏によると、この買収はAIポートフォリオを強化するものだ。Taalasの共同創業者であるLjubisa Bajic氏は、AMDが必要な規模とリーチを提供すると述べた。買収は通常の承認を条件としている。