前回、riscv-testsの実行環境を作った直後にrv64ui-p-addがfree listのdeadlockで止まった。
今回はその修正から始めて、rv64ui-p-addがpassに到達するまでに順に見つかったbugの記録。
結果として、free list、RAT、IQ、ROB、CSR flushの各所で合計9件のbugを修正した。
Free list: banked実装のlane不整合
症状と原因
free listのbanked実装は、FREE_LIST_SIZE=16を2 bank×8 entryに分け、rename lane dはbank dから固定でpopする。
pushも同様に、commit lane dからbank dへ固定で戻す。
問題は、rename laneとcommit laneが一致しないこと。 ROBは命令を1列に並べて保持するだけで、どのrename laneから来たかを記録していない。 commit lane dは「そのcycleにheadから数えてd番目にretireした命令」という意味しか持たない。
| cycle | A (lane 0でrename) | B (lane 1でrename) | head | commit lane |
|---|---|---|---|---|
| t | done | 実行待ち | A | A → lane 0 |
| t+1 | - | done | B | B → lane 0 |
現段階はALUが1 portしかなく、命令が1 cycleに1個ずつしか完了しない。 そのためほぼ全命令がcommit lane 0から出てきて、pushがbank 0に偏り、bank 1が枯渇してrename lane 1が永久にstallした。
加えて、bank 0は容量8にpushが集中するのにfull checkが無く、arch側のhead/tailもcommit lane基準で進むのでrollback時の復帰状態も壊れる。
修正方針の検討
「rename時のlaneをROBに記録し、commit時に同じbankへ返す」案も検討した。 ただしこの場合、連続する2命令が同じlaneを持つケース (1命令だけdispatchしたcycleの前後) で1 bankに複数pushが来るので、bankごとに複数pushを受けるmuxが要る。 banked実装の利点だった単純さを削ってまで直す意味は薄いので、lane概念を持たないcircular buffer実装に差し替えた。
Circular bufferの組み合わせloop
circular buffer実装も、そのままtopに入れると組み合わせloopになることがreviewで分かった。
// free list side (simplified) w_pop_pos[d+1] = w_pop_pos[d] + (i_pop_valid[d] ? 1 : 0); assign o_pop_avail[d_idx] = (w_entries > w_pop_pos[d_idx]); // rename side (simplified) if (w_need_alloc[d_idx] & ~i_fl_pop_avail[d_idx]) w_can_proceed = 1'b0; assign o_fl_pop_valid[d_idx] = w_need_alloc[d_idx] & w_can_proceed;
i_pop_valid → o_pop_avail → w_can_proceed → i_pop_validで一周する。
free listの残りが1個で2 laneとも割り当てが要る場合、avail=0とavail=1の間で振動する。
unit TBはi_pop_validをavailと無関係に与えていたので検出できなかった。
availに必要なのは「前のlaneが実際にpopしたか」ではなく「前のlaneが要求しているか」なので、保守的にw_entries > d_idxで判定する形にした。
余計にstallするのはfree listがほぼ空のときだけで、性能への影響は無視できる。
RAT: 自laneのrename writeをforwardしていた
free listを差し替えると、初期化コードを抜けた直後にVerilatorが次のエラーで止まった。
%Error: core/rtl/top/tb_scariv_top.sv:29: Active region did not converge.
-CFLAGS -DVL_DEBUGでbuildして+verilator+debugで実行すると、active regionのtriggerがw_prf_rd_dataとw_wr_valid / w_wr_addr / w_wr_dataの間を往復していた。
renameの出力を表示すると、prs1が自分のprdと同じ命令があった。
RN lane1 pc=800000d4 rd=x5 rs1=x0 prd=17 prs1=0 auipc t0,0x0 RN lane0 pc=800000d8 rd=x5 rs1=x5 prd=18 prs1=18 addi t0,t0,16
このaddiがALUで実行されると、PRFの同一cycle write-to-read forwardingで自分の書き込み値がop1に戻り、op1 + 16がまたop1に戻る。
値が収束しないので、simulatorがabortする。
原因はRATのrename read側のforwarding。
for (int d = 0; d < DISP_SIZE; d++) begin if (i_rn_wr_valid[d] && (i_rn_wr_areg[d] == i_rn_rs[p_idx])) begin o_rn_prs[p_idx] = i_rn_wr_preg[d]; end end
module headerには「lower-lane write is visible to higher-lane read」と書いてあるのに、loopは全laneを対象にしていた。
読み出し側のlaneはp_idx / 2なので、d < p_idx / 2に限定して修正した。
これまで出なかったのは、初期化コードのli xN, 0がすべてrs1 = x0で、x0はforwarding後に強制0になるため。
unit TBのreference modelも同じ誤ったsemanticsを実装していた。
IQ: bit幅の切り捨てと未駆動信号
dispatch数の切り捨て
次は、一部の命令がIQに入らず消えるという症状で止まった。
logic [$clog2(DISP_SIZE)-1: 0] w_dis_num; logic [$clog2(PRF_WRITE_PORTS)-1: 0] w_iss_num;
DISP_SIZE=2なのでw_dis_numは1 bitしかなく、bit_cntの出力 (2 bit) の「2」が「0」に切り捨てられる。
2命令同時にdispatchしても残りentry数が減らないので、IQが実際には満杯でもo_dis_readyが1のままになり、空きslotが無いlane 1の命令が黙って捨てられていた。
Makefileで-Wno-WIDTHTRUNCを指定しているので、Verilatorの警告も出ていなかった。
打ち消し合っていた2つ目のbug
幅を直すと、今度はもっと手前で止まった。
IQOCC valid=8 remain=2 dis_ready=1 dis_v=11 dis_num=2 iss_num=0 IQOCC valid=9 remain=0 dis_ready=0 dis_v=00 dis_num=0 iss_num=0
issueしているのにiss_numが常に0。
bit_cntの入力w_iss_valid_packedが宣言だけされていて、どこからも駆動されていなかった。
幅の修正前は「dispatch数が0に化ける」と「issue数が常に0」が打ち消し合って、残りentry数がほぼ動かなかったため表に出ていなかった。
ROB: 同じbankへの同時writebackで1本しか残らない
次の停止では、ROBのheadがdone=0のまま止まっていたが、その命令は実行とwritebackを終えていた。
WB port0 robid=19 prd=27 wb_en=1 res=000000008000011c WB port3 robid=7 prd=0 wb_en=1 res=00000000800000e4
ROBはdispatch側に合わせてbank構造になっていて、writebackもbankごとに1組の信号に集約していた。 同じbankに複数portが同時に書き戻すと、loopで最後のportだけが残る。 rob_idのLSBがbank番号なので、rob_id 19と7はどちらもbank 1。
bank構造が効くのはlaneとbankが対応するdispatch側だけで、任意のentryを完了させるwriteback側には当てはまらない。
doneとpayloadを分ける
全writeback portを全entryで見るとCAMのように大きくなるのでは、という点を検討した。
実際には、doneはrob_idというアドレスのdecodeなので、port数×entry数のAND-ORで済む。
重いのはbranch_targetなどpayloadのmuxのほうで、フィールドごとに書き込むportは限られている。
| フィールド | 書き込むport |
|---|---|
done |
全port |
branch_taken / branch_target |
BRUのみ |
excpt_valid / excpt_cause |
現状なし |
そこでdoneだけを独立した配列にして、全portからのdecode結果のORで立てる形にした。
payload側 (分岐情報) の同時writeback対策と、exceptionを「最も古い1個」だけ保持するregisterへの集約は次の課題として残している。
CSR flush: mretのflushがROBに届いていない
startup codeのmretでtest本体に入った直後に止まった。
mret実行時にCSR unitがflushを出すが、IQ、RAT、free list、LSU、fetchには届いているのに、ROBにはflushの入力が無かった。
ROBは自分自身のtrap / branch redirectでしかクリアされない。
その結果、IQからは消えたがROBには残っているentryが永久にdone=0になって止まる。
ROBにi_flush_allを追加し、topで全flush要因をORしたものを接続した。
IQ: 同じcycleにdispatchされた前のlaneのprdを無視していた
ここでようやくtest本体が流れ始め、test_2からtest_6までは通過した。
test_7で、値はすべて正しいのにbneがtakenになった。
RN lane0 pc=80000220 rd=x7 rs1=x7 prd=16 slli t2,t2,15 RN lane1 pc=80000224 rd=x0 rs1=x14 rs2=x7 prs2=16 bne a4,t2 ISS port1 pc=80000224 prs2=16 op2=0000000000000004 (issued too early) ISS port0 pc=80000220 prd=16 (slli executes later)
bneはslliの結果 (prd 16) を待つべきなのに、2 cycle前に古い値で実行されていた。
w_dis_ready_rs2[d_idx] = (i_dis_uop[d_idx].uop.rs2_type != REG_XPR) | (i_dis_uop[d_idx].prs2 == 'h0) | r_prf_ready[i_dis_uop[d_idx].prs2] | w_dis_match_rs2[d_idx];
prd 16のready bitをクリアするのは同じcycleのw_prf_ready_nextで、反映は次のcycleから。
dispatch時の判定が読むr_prf_ready[16]は、前の持ち主が書き戻したときの1が残っていた。
RATのforwardingと同じ種類のbugで、「同じcycleの前のlaneのrename結果を後ろのlaneに見せる」処理が抜けていた。
dispatchしたentryがIQで見えるのは次のcycleからなので、readyも「このcycleの更新を反映した後の値」を見るのが正しい。
判定をr_prf_readyからw_prf_ready_nextに置き換えて修正した。
w_prf_ready_nextはこのcycleにdispatchされる全laneのprdをクリアした値なので、前のlaneとの比較を別に書く必要がない。
unit TBにも同じcycleに2 laneで依存するテストはあったが、reset直後のprd (ready bitが初期値0) を使っていたので再現していなかった。 このbugはprdが再利用され、前の持ち主のready bitが残っているときにだけ出る。
Free list: rollbackと同じcycleのcommit
IQを直すと、今度はtest_4で失敗した。 使用中のprd 36が、別の命令に重複して割り当てられていた。
RN lane1 pc=800001cc add a4,a1,a2 prd=36 RN lane0 pc=800001d8 li gp,5 prd=36
直前に、branch redirectによるflushと、branchより古い命令のcommitが同じcycleに起きていた。
[765000] ... redir=1 rpc=0080000160 flush=1 ... [765000] commit lane[0]: pc=0x80000144 rd=x10 data=0x80000000
retire時のredirectでは、同じcycleの中に「commitすべき命令 (headからbranchまで)」と「flushすべき命令 (branchより後ろ)」が同居する。 正しい復帰先は「registerに保持したarch状態 + このcycleのcommit分」だが、free listのrollbackはregisterのarch状態をそのままmainにコピーしていたので、commit分が抜けていた。
RATは前々回、同じ問題をw_arch_rat_nextで修正済みだった。
free listのcircular buffer実装も同様に、rollback時のhead / tail / queueを「このcycleのpushを反映した後のarch状態」にした。
free listへのpush (i_push_valid) はROBのo_cmt_validそのもので、retireの連鎖はtakenになったbranchの次のlaneで切られる。
なので、flushと同じcycleに来るpushはすべてcommitすべき命令の分で、足してよい。
これまで出なかったのは、IQのready判定のbugで命令が早く実行され、早くcommitしていたため。 正しく待つようになった結果、commitとbranchのretireが同じcycleに重なった。
このmoduleは修正時に書き直していて、rollback時のheadに誤ってpop数を足していた (正しくはpush数) ことも、test_28の後ろ向きloopで踏んで修正した。
現在の状況
rv64ui-p-addはすべてのtest caseを通過してpassに到達するようになった。
ただし、riscv-testsのPASS/FAIL報告はecallでtrap handlerに入り、そこでtohostに書く仕組みになっている。
現段階ではECALLをNOPとしてretireしているので、passに到達してもtohostに書けず、TBの判定はTIMEOUTになる。
そこで暫定的に、各ELFからfail / pass labelのaddressをnmで取り出し、commit traceが先にどちらの範囲に入るかで54本を分類した。
| 判定 | 本数 |
|---|---|
passに到達 |
43 |
failに到達 |
2 (sd、ma_data) |
| 途中で停止 | 9 (auipc、fence_i、jal、jalr、ld_st、sb、sh、st_ld、sw) |
演算系と条件分岐系はほぼ通過し、止まっているのはstore系とjump系に集中している。
この連載の記事一覧: RISC-V OoO CPUを実装する 記事一覧