Rinnakkaisohjelmointi, prosessorit ja välimuistit Kayvonin ja Kunlen kanssa
Moscow Institute of Physics and Technology
Stanfordin opiskelija pohtii Kayvon Fatahalianin ja Kunle Olukotunin pitämää rinnakkaisohjelmoinnin kurssia, joka käsittelee laitteiston erikoistumista tekoälylle, suorittimen arkkitehtuuria ja välimuistin koherenssiprotokollia. Artikkelissa käsitellään, miten erikoistunut laitteisto parantaa energiatehokkuutta ja suorituskykyä, sekä selitetään välimuistit ja MESI-protokolla.
Kirjoittaja, Stanfordin neljännen vuoden opiskelija, kävi rinnakkaisohjelmoinnin kurssin ja koki sen silmiä avaavaksi mikroprosessoriarkkitehtuurin suhteen. Opettajat, Kayvon Fatahalian (grafiikan ja suorituskyvyn asiantuntija) ja Kunle Olukotun (moniydinprosessorien edelläkävijä), olivat parhaita. Artikkeli käsittelee kolmea pääaihetta: laitteiston erikoistumista, suorittimen perusteita ja välimuistin koherenssia. Laitteiston erikoistumista ohjaa tekoälyn energian- ja suorituskyvyn tarve; Dennardin skaalautuminen päättyi noin 2005–2007, joten erikoistunut laitteisto, kuten kiihdyttimet, on energiatehokkaampaa rinnakkaisiin laskutoimituksiin. Suorittimet koostuvat ohjausyksiköstä, ALU:sta ja rekistereistä, jotka kaikki on rakennettu transistoreista. Välimuistit ovat väliaikaista tallennustilaa, joka parantaa suorituskykyä vaikuttamatta oikeellisuuteen, ja koherenssiprotokollat, kuten MESI, varmistavat datan yhtenäisyyden useiden välimuistien välillä. Kirjoittaja mainitsee myös, että kurssi ei käsitellyt SIMD:iä, SPML:ää, GPU:ta, CUDA:ta, lukkoja eikä transaktionaalista muistia, ja linkittää videon mikroprosessorien valmistuksesta sekä tutkimuspaperin ferrosähköisestä muistista MIPT:stä.
Lähde: Habr — хаб ИИ —
Alkuperäinen