ケイボンとクンレが教える並列プログラミング、プロセッサ、キャッシュ

著者はスタンフォード大学4年生で、並列プログラミングのコースを受講し、マイクロプロセッサのアーキテクチャについて目から鱗の経験をしました。講師のケイボン・ファタハリアン（グラフィックスとパフォーマンスの専門家）とクンル・オルコトゥン（マルチコアプロセッサのパイオニア）は、最高の講師陣でした。この記事では、ハードウェアの専門化、CPUの基本、キャッシュコヒーレンスという3つの主要トピックを取り上げています。ハードウェアの専門化は、AIのエネルギーと性能の要求によって推進されています。デナードスケーリングは2005年から2007年頃に終了したため、アクセラレータなどの専用ハードウェアは、並列算術演算においてよりエネルギー効率が高いのです。CPUは制御ユニット、ALU、レジスタから構成され、すべてトランジスタで作られています。キャッシュは一時的なストレージであり、正しさに影響を与えずにパフォーマンスを向上させます。MESIなどのコヒーレンスプロトコルは、複数のキャッシュ間のデータの一貫性を保証します。著者はまた、このコースではSIMD、SPML、GPU、CUDA、ロック、トランザクショナルメモリについては扱われなかったことにも触れ、マイクロプロセッサの製造に関するビデオと、MIPTの強誘電体メモリに関する研究論文へのリンクを提供しています。