AMD ostaa Taalasin: startup polttaa tekoälymallit suoraan siruihin nopeaa päättelyä varten
Google/DeepMind
AMD ostaa kanadalaisen tekoäly-startupin Taalasin, joka rakentaa erikoistuneita päättelysiruja upottamalla tekoälymallin rakenteen ja opitut parametrit suoraan siruun. Tämä tekee päättelystä erittäin nopeaa, mutta rajoittaa sirun toimimaan vain yhdellä mallilla. AMD suunnittelee integroivansa teknologian kiihdytin-tiekarttaansa ja tarjoavansa sitä järjestelmäratkaisuna Instinct-GPU:iden kanssa.
AMD ostaa kanadalaisen tekoäly-startupin Taalas, joka valmistaa erikoistuneita päätelmäsiruja. Vuonna 2023 Torontossa perustettu Taalas tuli julkisuuteen helmikuussa. Startup upottaa tekoälymallin rakenteen ja opitut parametrit suoraan siruun, mikä tekee päätelmistä erittäin nopeita, mutta siru voi ajaa vain yhtä mallia. Demosiru saavutti yli 16 000 tokenia sekunnissa käyttäjää kohden Llama3.1-8B-mallilla, mikä on useita kertoja nopeampaa kuin nykyiset kilpailevat sirut. Googlen kerrotaan myös kehittävän tällaista sirua Gemini-malleilleen. AMD haluaa integroida teknologian kiihdytin-tiekarttaansa ja tarjota sen yhdessä Instinct-näytönohjainten kanssa järjestelmäratkaisuna. AMD:n tekoälyosaston vanhemman varapresidentin Vamsi Boppanan mukaan yrityskauppa vahvistaa tekoälyportfoliota. Taalasin perustaja Ljubisa Bajic sanoi, että AMD tarjoaa tarvittavan mittakaavan ja kattavuuden. Kauppa edellyttää tavanomaisia hyväksyntöjä.
Lähde: The Decoder (DE) —
Alkuperäinen