UCBのAdvanced Computer Architectureの講義資料を読む(1. 半導体のトレンドと背景)

コンピュータアーキテクチャの論文を読んでいたのだが、どうもよく知らない項目がある。よく考えてみたらコンピュータアーキテクチャの最新トレンドも含め最近勉強量が不足していたので、ここらへんでもう一度復習しておきたい。せっかくなので海外の大学の講義資料を読んでみよう。

Advanced Computer Architecture

https://www.ece.ucsb.edu/~strukov/ece154BSpring2018/home.htm

せっかくなのでまとめていく。

1. Introduction

コンピュータの基本（歴史的なトレンド・性能メトリック）：1週間
メモリ階層の設計：2週間
命令レベル並列性（静的・動的なスケジューリング、投機的実行）：2.5週間
データレベル並列性（ベクトル、SIMD、GPU）：2.5週間
スレッドレベル並列性（共有メモリアーキテクチャ・動機及びキャッシュコヒーレンシ）：1週間

この講義の目標

性能向上を支える背景を理解する。
高性能マイクロプロセッサの機構を理解する。
- ARM Cortex A8
- Intel Core i7
- Tesla GPU

この講義で学ぶこと

コンピュータ技術のトレンド

歴史的なコンピュータアーキテクチャの知恵

過去	「電力は問題にならない、トランジスタは高価」と言われていた。
現代	「電力の壁」が問題になる。トランジスタの数は問題にならない。

過去	命令レベル並列性はコンパイラ・イノベーション（アウトオブオーダ、投機実行、VLIW）により十分に向上する。
現代	「ILPの壁」ILPを向上するためにはより多くのハードウェアが必要となる。

過去	乗算は低速・メモリアクセスは高速
現代	「メモリの壁」メモリは低速、乗算は高速

過去	単一プロセッサの性能は1.5年で2倍になる
現代	電力の壁＋ILPの壁＋メモリの壁＝ブリックの壁。単一プロセッサの性能向上は止まった。

これにより、チップ設計の方針が変わった。「複数のコアを搭載する時代に」

2年でチップ内のプロセッサ数が2倍に増加する
よりシンプルなプロセッサがより効率が良い。

コンピュータのトレンド・単一プロセッサの性能向上

問題：下記のグラフにおける「性能」はどのように定義されているのか？
解答1：性能は一般的に特定のタスクをどれくらいの速度で実行できるのかで定義される。
- 性能 = 1/ExecTime
- ExecTime = IC * CCT * CPI
  - IC : Instruction Count, CCT : Clock Cycle Time, CPI = Clocks Per Instruction
解答2：現在は性能に関して様々な評価基準が存在している。どのような評価基準が存在しているのか？
典型的な性能評価基準：
- 実行時間（レイテンシ）
- スループット
  - 問題2：スループットはレイテンシとどのような関係にあるか。
    - 解答：一般的にスループットとレイテンシは異なる評価概念である。スループットは並列性を向上させることで向上するが、レイテンシを削減することも向上する。例えば、並列性スループットはレイテンシとは逆比例の関係とはならない。
- エネルギー
  - 問題3：エネルギーの評価基準は電力消費と同一の評価基準か？
    - 電力＝エネルギー/時間である。したがって一般的には、実行時間が同一ならばエネルギーと電力は同じ評価基準である。
性能を測定するための一般的な方法はベンチマークプログラムを実行することである。
- カーネル（例：行列乗算）
- トイプログラム（例：ソート）
- 合成ベンチマーク（例：Dhrystone）
- ベンチマークスイート（例：SPEC06fp, TPC-C)