FPGA開発日記

カテゴリ別記事インデックス https://msyksphinz.github.io/github_pages , English Version https://fpgadevdiary.hatenadiary.com/

RISC-V OoO CPUを実装する (40. 測りたい経路を作っていなかった命令列)

ランダム命令列が、測りたい経路をほとんど作っていなかった回になる。 ウェイクアップを1サイクル早める変更の効果を測ったが、生成器が依存のある命令をほとんど出していなかった。 依存を作るknobを足したら、既存のDTCM調停のバグが出た。 さらに、合成の数字も読めていなかったことが分かった。

少し前に、ウェイクアップをライトバックの時点から選択の時点に移した。 ある命令の結果を次の命令が使えるようになるまでの間隔が、2サイクルから1サイクルに縮む変更になる。 効果をランダムストリーム640万命令で測って、IPCが1.7%上がった。

ストリーム ライトバックで起こす 選択時に起こす 差
random1 0.736 0.749 +1.8%
random2 0.718 0.727 +1.3%
random3 0.745 0.761 +2.1%
random4 0.698 0.714 +2.4%
tight1 0.698 0.709 +1.6%
tight2 0.698 0.708 +1.4%
合計 0.715 0.728 +1.7%

妥当な数字に見えるが、このIPCの1.7%の差がコアについて何を言っているのかが分からない。 生成器がソースレジスタを毎回プールから無作為に選ぶので、直前の結果を読む命令がほとんど出ない。 連鎖が短ければ、連鎖を1サイクル詰めても全体は動かない。 コアを測っているのか生成器を測っているのかが区別できていなかった。

どれくらい短いのか

まず、どれくらい短いのかを数えた。 ソースのどれかが直前の命令のデスティネーションである命令の割合を、生成された.Sから静的に数える。 結果は4.3%だった。 23命令に1回しか直前の結果を読んでいないので、この上で連鎖の長さを論じても意味がない。

直前のデスティネーションを選ぶ

--dep-rateを足して、ソースを引くときにある確率で直前の命令のデスティネーションを返すようにした。

    def rs(self) -> str:
        coin = self.rng.random()
        pooled = f"x{self.rng.choice(POOL + [0])}"
        if (not self.dep_taken and self.last_rd is not None
                and coin < self.dep_rate):
            self.dep_taken = True
            return self.last_rd
        return pooled

書いてみると、気をつける点が2つあった。

ソースを先に引く

最初はf-stringの中でself.rd()とself.rs()を並べていた。

            return f"  {self.rng.choice(R_OPS)} {self.rd()}, {self.rs()}, {self.rs()}"

Pythonは左から評価するので、rd()が先に走ってlast_rdが自分自身になる。 出てくるのはadd x5, x5, x5で、直前からの連鎖ではなく自己参照になる。 ソースを先に引いてからデスティネーションを引く形に直した。

            op, a, b = self.rng.choice(R_OPS), self.rs(), self.rs()
            return f"  {op} {self.rd()}, {a}, {b}"

依存は1命令に1本まで

両方のソースに入れると、同じレジスタが2回並ぶ。

  slt x26, x6, x6
  bge x8, x8, skip_1

slt x6, x6は常に0で、bge x8, x8は常に成立する。 分岐が値によらず決まってしまうので、スキップされる命令も分岐の当たり外れも固定される。 2本目のソースに依存を入れても、1本目が作った依存に何も足さない。 そこで1命令につき1本までに制限した。

乱数をレートに依存させない

上のコードでcoinとpooledを結果によらず必ず引いているのは、乱数列をレートから切り離すためになる。 依存を取るときにrng.choiceを飛ばすと、そこから先の乱数列が全部ずれる。 レートを変えるたびに別のプログラムになり、比較にならない。 必ず両方引けば、同じシードなら命令列も即値もオフセットもデスティネーションも全レートで一致し、違うのはソースのレジスタ名だけになる。

効き方

dep-rate 依存ペア
0.0 4.3%
0.2 25.7%
0.4 44.3%
0.6 59.3%
0.8 71.8%
1.0 81.3%

1.0でも81.3%で止まる。 luiとauipcはソースを読まず、ロードも読まないので、そこで連鎖が切れる。 この上で4シードのIPCを比べた。

シード dep 0.0 dep 0.8
1 0.695 0.606
2 0.777 0.675
3 0.698 0.643
4 0.679 0.624

全シードで下がり、幅は7.9%から13.2%になった。

乱数列がずれて、バグが出た

生成器を変えたので、既存のストリームも全部中身が変わり、misalignedを出すセットが2本とも落ちた。

*** COSIM MISMATCH *** at pc=0080000c50
ISS Rd = 0000000000000000
RTL Rd = 0000000000003000
80000c50:    03ae5783            lhu a5,58(t3)

頼んでいない行のデータが返ってきている。

DTCMはrenを見ていない

      o_rdata <= mem[i_addr[3 +: IDX_W]];

読み出しがi_renの外にあるので、そのサイクルにo_dtcm_addrが指していた行が次のサイクルに出てくる。 一方でLSU側の調停は、ストアが無条件に勝つ。

  assign o_dtcm_addr = w_st_port_busy ? w_stq_deq_addr :
                       (r_ld_state == 2'b01) & r_ld_crossing ? {r_ld_line_addr[VADDR_W-1: 3] + 1'b1, 3'b000} :
                       {w_iss_addr[VADDR_W-1: 3], 3'b000};

またぐロードはポートを2サイクル使うので、そのどちらかでストアがポートを取ると、ロードは別の行を読む。 その入口が2つあった。

1つ目: 発行条件が1サイクル目しか見ていない

                     (i_iss_data.rn.uop.is_load ? (w_ld_conflict | i_cmt_store) :

i_cmt_storeはまたぐストアの1サイクル目にしか立たない。 2サイクル目はSTQが持っていて、そこはo_cmt_busyが言う。 4行下のコメントに「両方を見ろ」と書いてあるのに、この条件だけがi_cmt_storeのままだった。

2つ目: ロードの2回目を誰も守っていない

r_ld_state == 2'b01でline + 1の読み出しを出すが、このサイクルにストアがコミットするとアドレスが切り替わる。 止める理由がなかった。 ロードはXにいてまだリタイアしておらず、ROBから見えていない。

ハンドシェイクにした

どちらの入口も、LSUが「このサイクルはストアのコミットを受け取れない」と言えば済む。

  assign o_cmt_store_ready = ~(w_stq_cmt_busy | ((r_ld_state == 2'b01) & r_ld_crossing));

ROB側はリタイア連鎖がそこで止まる。

    assign w_can_retire_raw[d_idx] = w_rob_ret_done[d_idx] &
                                     (~w_rob_ret_entry[d_idx].is_store | i_cmt_store_ready);

元の名前はo_stq_cmt_busyだったが、ロードの都合が入った時点でSTQを指さなくなっていたので、i_cmt_storeのreadyとして対にした。 またぐストアの2回目はここでは守らなくてよい。 リタイア連鎖がストアの後ろで同じサイクルに続かないので、ストアがコミットするサイクルにフラッシュが届かない。

                                   ~w_rob_ret_entry[d_idx - 1].is_store;

1サイクル1ストアのための条件だが、またぐストアの安全もここに乗っている。

名前を変えたら周波数が落ちた

修正とまとめて合成し直したら、ROBが6%、全体が4%落ちていた。 全体のクリティカルパスは発行レジスタからPRFの書き込みまでで、今回触った場所はそこに1ゲートも乗っていない。 おかしいので、3状態で測り直した。

モジュール 修正前 修正のみ 修正+改名
scariv_rob 77.6 MHz 77.6 MHz 72.7 MHz
scariv_lsu 102.9 MHz 103.7 MHz 104.2 MHz
scariv_top 35.4 MHz 35.2 MHz 33.9 MHz

論理の修正は0.2 MHzしか使っておらず、落ちたぶんは全部、改名の方から来ている。 その改名はDe Morganで恒等になる。

  旧: done & ~(is_store & busy)
  新: done & (~is_store | ready)      ready = ~busy

論理関数は1ビットも変わっていない。 インバータが1個、モジュール境界を越えて移っただけになる。

ROBと全体は別の理由

ROBのクリティカルパスの終点はo_cmt_fence_i_pcで、w_can_retireでゲートされている。 書き換えた式はそのパスの上にある。 ROBのfmaxが6%落ちたのは、測り間違いではない。 abcが、同じにマッピングできたはずの関数に対して深いネットリストを出し、ゲートは実在する。 悪くなったのは設計ではなく、ツールの出力になる。

コア全体のfmaxが4%落ちた方は違う。 クリティカルパスは3状態とも発行レジスタからPRF書き込みで、書き換えた論理は乗っていない。 誰も触っていないパスが再マッピングで動いただけになる。

読み方が変わった

設計のどこかが変われば、触っていないパスも数パーセント動く。 この幅を知らずにベースラインを更新していくと、本物の劣化がその中に隠れる。 前回、misaligned対応で全体が35.5から35.4 MHzになったと書いた。 クリティカルパスが同じ経路のままかどうかを確かめていないので、この35.5から35.4 MHzという0.3%の低下が何を測ったものかは言えない。 当面は、クリティカルパスが変わっていない1桁パーセントの変動はツール側として扱い、数字を出すときはどのパスが動いたかを添えることにした。 回帰チェックが劣化とみなすスラック低下のしきい値を見直す方向と、複数回合成して中央値を取る方向は、課題として分けた。

今回の形

依存ペア 4.3% → 71.8%
riscv-tests 55/55
ランダムストリーム 10本、1070万命令

依存チェーンを作るknobを足そうとして、既存のDTCM調停のバグが出て、合成の数字が読めていなかったことも分かった。 バグの方は、揃ったアクセスしか出ない生成器では踏めない経路にあった。


この連載の記事一覧: RISC-V OoO CPUを実装する 記事一覧