AMD adquire Taalas: startup grava modelos de IA em chips para inferência rápida

A AMD está adquirindo a startup canadense de IA Taalas, que desenvolve chips de inferência especializados. Fundada em 2023 em Toronto, a Taalas saiu do modo furtivo em fevereiro. A startup incorpora a estrutura e os parâmetros aprendidos de um modelo de IA diretamente no chip, tornando a inferência extremamente rápida, mas o chip só pode executar um único modelo. Um chip de demonstração alcançou mais de 16.000 tokens por segundo por usuário com o Llama3.1-8B, várias vezes mais rápido do que os chips concorrentes atuais. O Google também está supostamente trabalhando em um chip semelhante para seus modelos Gemini. A AMD quer integrar a tecnologia em seu roteiro de aceleradores e oferecê-la juntamente com as GPUs Instinct como uma solução de sistema. De acordo com Vamsi Boppana, vice-presidente sênior da divisão de IA da AMD, a aquisição fortalece o portfólio de IA. Ljubisa Bajic, cofundador da Taalas, disse que a AMD oferece a escala e o alcance necessários. A aquisição está sujeita a aprovações regulatórias padrão.