AMD adquiere Taalas: la startup graba modelos de IA en chips para una inferencia rápida

AMD está adquiriendo la startup canadiense de inteligencia artificial Taalas, que construye chips de inferencia especializados. Fundada en 2023 en Toronto, Taalas salió del sigilo en febrero. La startup integra la estructura y los parámetros aprendidos de un modelo de IA directamente en el chip, lo que hace que la inferencia sea extremadamente rápida, pero el chip solo puede ejecutar un único modelo. Un chip de demostración logró más de 16,000 tokens por segundo por usuario con Llama3.1-8B, varias veces más rápido que los chips competidores actuales. Se informa que Google también está trabajando en un chip similar para sus modelos Gemini. AMD quiere integrar la tecnología en su hoja de ruta de aceleradores y ofrecerla junto con las GPU Instinct como una solución de sistema. Según Vamsi Boppana, vicepresidente sénior de la división de IA de AMD, la adquisición fortalece la cartera de IA. Ljubisa Bajic, cofundador de Taalas, dijo que AMD ofrece la escala y el alcance necesarios. La adquisición está sujeta a las aprobaciones habituales.