AMD, Taalas 인수: 스타트업, AI 모델을 칩에 태워 빠른 추론 구현

AMD가 특수 추론 칩을 제작하는 캐나다 AI 스타트업 Taalas를 인수합니다. 2023년 토론토에서 설립된 Taalas는 2월에 스텔스 모드에서 공식 출범했습니다. 이 스타트업은 AI 모델의 구조와 학습된 파라미터를 칩에 직접 내장하여 추론 속도를 극도로 높이지만, 칩은 단일 모델만 실행할 수 있습니다. 데모 칩은 Llama3.1-8B를 사용하여 사용자당 초당 16,000개 이상의 토큰을 처리하여 현재 경쟁 칩보다 몇 배 빠른 성능을 달성했습니다. Google도 Gemini 모델용으로 이러한 칩을 개발 중인 것으로 알려졌습니다. AMD는 이 기술을 자사의 가속기 로드맵에 통합하고 Instinct GPU와 함께 시스템 솔루션으로 제공하려고 합니다. AMD AI 부문 수석 부사장인 Vamsi Boppana에 따르면 이번 인수는 AI 포트폴리오를 강화합니다. Taalas 공동 창업자 Ljubisa Bajic는 AMD가 필요한 규모와 도달 범위를 제공한다고 말했습니다. 이번 인수는 통상적인 승인 절차를 거칠 예정입니다.