AMD 收购 Taalas：初创公司将 AI 模型烧录进芯片，实现快速推理

AMD正在收购加拿大AI初创公司Taalas，该公司专门制造推理芯片。Taalas于2023年在多伦多成立，于今年2月从隐身模式中脱颖而出。这家初创公司将AI模型的结构和学习参数直接嵌入芯片中，使推理速度极快，但该芯片只能运行单一模型。一款演示芯片在Llama3.1-8B模型下实现了每秒每用户超过16000个令牌的处理速度，比目前竞品芯片快数倍。据报道，谷歌也在为其Gemini模型开发此类芯片。AMD希望将该技术整合到其加速器路线图中，并与Instinct GPU一起作为系统解决方案提供。AMD AI部门高级副总裁Vamsi Boppana表示，此次收购强化了其AI产品组合。Taalas联合创始人Ljubisa Bajic称，AMD提供了所需的规模和覆盖范围。此次收购尚待惯例审批。