AMD приобретает Taalas: стартап вживляет ИИ-модели в чипы для быстрого вывода
Компания AMD приобретает канадский ИИ-стартап Taalas, который создает специализированные чипы для инференса, встраивая структуру и обученные параметры ИИ-модели непосредственно в чип. Это делает вывод чрезвычайно быстрым, но ограничивает чип выполнением только одной модели. AMD планирует интегрировать эту технологию в свой дорожную карту ускорителей и предлагать её как системное решение с GPU Instinct.
AMD приобретает канадский стартап Taalas, занимающийся созданием специализированных чипов для инференса. Основанная в 2023 году в Торонто, Taalas вышла из тени в феврале. Стартап встраивает структуру и изученные параметры модели искусственного интеллекта непосредственно в чип, что делает инференс чрезвычайно быстрым, но чип может выполнять только одну модель. Демонстрационный чип достиг более 16
Показать ещё ↓
Источник: The Decoder (DE) —
оригинал