FPGA開発日記

カテゴリ別記事インデックス https://msyksphinz.github.io/github_pages , English Version https://fpgadevdiary.hatenadiary.com/

RISC-V OoO CPUを実装する (18. riscv-testsで見つかったbugの修正記録)

前回、riscv-testsの実行環境を作った直後にrv64ui-p-addがfree listのdeadlockで止まった。 今回はその修正から始めて、rv64ui-p-addがpassに到達するまでに順に見つかったbugの記録。 結果として、free list、RAT、IQ、ROB、CSR flushの各所で合計9件のbugを修正した。

Free list: banked実装のlane不整合

症状と原因

free listのbanked実装は、FREE_LIST_SIZE=16を2 bank×8 entryに分け、rename lane dはbank dから固定でpopする。 pushも同様に、commit lane dからbank dへ固定で戻す。

問題は、rename laneとcommit laneが一致しないこと。 ROBは命令を1列に並べて保持するだけで、どのrename laneから来たかを記録していない。 commit lane dは「そのcycleにheadから数えてd番目にretireした命令」という意味しか持たない。

cycle A (lane 0でrename) B (lane 1でrename) head commit lane
t done 実行待ち A A → lane 0
t+1 - done B B → lane 0

現段階はALUが1 portしかなく、命令が1 cycleに1個ずつしか完了しない。 そのためほぼ全命令がcommit lane 0から出てきて、pushがbank 0に偏り、bank 1が枯渇してrename lane 1が永久にstallした。

加えて、bank 0は容量8にpushが集中するのにfull checkが無く、arch側のhead/tailもcommit lane基準で進むのでrollback時の復帰状態も壊れる。

修正方針の検討

「rename時のlaneをROBに記録し、commit時に同じbankへ返す」案も検討した。 ただしこの場合、連続する2命令が同じlaneを持つケース (1命令だけdispatchしたcycleの前後) で1 bankに複数pushが来るので、bankごとに複数pushを受けるmuxが要る。 banked実装の利点だった単純さを削ってまで直す意味は薄いので、lane概念を持たないcircular buffer実装に差し替えた。

Circular bufferの組み合わせloop

circular buffer実装も、そのままtopに入れると組み合わせloopになることがreviewで分かった。

// free list side (simplified)
w_pop_pos[d+1] = w_pop_pos[d] + (i_pop_valid[d] ? 1 : 0);
assign o_pop_avail[d_idx] = (w_entries > w_pop_pos[d_idx]);

// rename side (simplified)
if (w_need_alloc[d_idx] & ~i_fl_pop_avail[d_idx]) w_can_proceed = 1'b0;
assign o_fl_pop_valid[d_idx] = w_need_alloc[d_idx] & w_can_proceed;

i_pop_valid → o_pop_avail → w_can_proceed → i_pop_validで一周する。 free listの残りが1個で2 laneとも割り当てが要る場合、avail=0とavail=1の間で振動する。 unit TBはi_pop_validをavailと無関係に与えていたので検出できなかった。

availに必要なのは「前のlaneが実際にpopしたか」ではなく「前のlaneが要求しているか」なので、保守的にw_entries > d_idxで判定する形にした。 余計にstallするのはfree listがほぼ空のときだけで、性能への影響は無視できる。

RAT: 自laneのrename writeをforwardしていた

free listを差し替えると、初期化コードを抜けた直後にVerilatorが次のエラーで止まった。

%Error: core/rtl/top/tb_scariv_top.sv:29: Active region did not converge.

-CFLAGS -DVL_DEBUGでbuildして+verilator+debugで実行すると、active regionのtriggerがw_prf_rd_dataとw_wr_valid / w_wr_addr / w_wr_dataの間を往復していた。 renameの出力を表示すると、prs1が自分のprdと同じ命令があった。

RN lane1 pc=800000d4 rd=x5 rs1=x0 prd=17 prs1=0     auipc t0,0x0
RN lane0 pc=800000d8 rd=x5 rs1=x5 prd=18 prs1=18    addi  t0,t0,16

このaddiがALUで実行されると、PRFの同一cycle write-to-read forwardingで自分の書き込み値がop1に戻り、op1 + 16がまたop1に戻る。 値が収束しないので、simulatorがabortする。

原因はRATのrename read側のforwarding。

for (int d = 0; d < DISP_SIZE; d++) begin
  if (i_rn_wr_valid[d] && (i_rn_wr_areg[d] == i_rn_rs[p_idx])) begin
    o_rn_prs[p_idx] = i_rn_wr_preg[d];
  end
end

module headerには「lower-lane write is visible to higher-lane read」と書いてあるのに、loopは全laneを対象にしていた。 読み出し側のlaneはp_idx / 2なので、d < p_idx / 2に限定して修正した。

これまで出なかったのは、初期化コードのli xN, 0がすべてrs1 = x0で、x0はforwarding後に強制0になるため。 unit TBのreference modelも同じ誤ったsemanticsを実装していた。

IQ: bit幅の切り捨てと未駆動信号

dispatch数の切り捨て

次は、一部の命令がIQに入らず消えるという症状で止まった。

logic [$clog2(DISP_SIZE)-1: 0]       w_dis_num;
logic [$clog2(PRF_WRITE_PORTS)-1: 0] w_iss_num;

DISP_SIZE=2なのでw_dis_numは1 bitしかなく、bit_cntの出力 (2 bit) の「2」が「0」に切り捨てられる。 2命令同時にdispatchしても残りentry数が減らないので、IQが実際には満杯でもo_dis_readyが1のままになり、空きslotが無いlane 1の命令が黙って捨てられていた。 Makefileで-Wno-WIDTHTRUNCを指定しているので、Verilatorの警告も出ていなかった。

打ち消し合っていた2つ目のbug

幅を直すと、今度はもっと手前で止まった。

IQOCC valid=8 remain=2 dis_ready=1 dis_v=11 dis_num=2 iss_num=0
IQOCC valid=9 remain=0 dis_ready=0 dis_v=00 dis_num=0 iss_num=0

issueしているのにiss_numが常に0。 bit_cntの入力w_iss_valid_packedが宣言だけされていて、どこからも駆動されていなかった。 幅の修正前は「dispatch数が0に化ける」と「issue数が常に0」が打ち消し合って、残りentry数がほぼ動かなかったため表に出ていなかった。

ROB: 同じbankへの同時writebackで1本しか残らない

次の停止では、ROBのheadがdone=0のまま止まっていたが、その命令は実行とwritebackを終えていた。

WB port0 robid=19 prd=27 wb_en=1 res=000000008000011c
WB port3 robid=7  prd=0  wb_en=1 res=00000000800000e4

ROBはdispatch側に合わせてbank構造になっていて、writebackもbankごとに1組の信号に集約していた。 同じbankに複数portが同時に書き戻すと、loopで最後のportだけが残る。 rob_idのLSBがbank番号なので、rob_id 19と7はどちらもbank 1。

bank構造が効くのはlaneとbankが対応するdispatch側だけで、任意のentryを完了させるwriteback側には当てはまらない。

doneとpayloadを分ける

全writeback portを全entryで見るとCAMのように大きくなるのでは、という点を検討した。 実際には、doneはrob_idというアドレスのdecodeなので、port数×entry数のAND-ORで済む。 重いのはbranch_targetなどpayloadのmuxのほうで、フィールドごとに書き込むportは限られている。

フィールド 書き込むport
done 全port
branch_taken / branch_target BRUのみ
excpt_valid / excpt_cause 現状なし

そこでdoneだけを独立した配列にして、全portからのdecode結果のORで立てる形にした。 payload側 (分岐情報) の同時writeback対策と、exceptionを「最も古い1個」だけ保持するregisterへの集約は次の課題として残している。

CSR flush: mretのflushがROBに届いていない

startup codeのmretでtest本体に入った直後に止まった。 mret実行時にCSR unitがflushを出すが、IQ、RAT、free list、LSU、fetchには届いているのに、ROBにはflushの入力が無かった。 ROBは自分自身のtrap / branch redirectでしかクリアされない。

その結果、IQからは消えたがROBには残っているentryが永久にdone=0になって止まる。 ROBにi_flush_allを追加し、topで全flush要因をORしたものを接続した。

IQ: 同じcycleにdispatchされた前のlaneのprdを無視していた

ここでようやくtest本体が流れ始め、test_2からtest_6までは通過した。 test_7で、値はすべて正しいのにbneがtakenになった。

RN  lane0 pc=80000220 rd=x7 rs1=x7         prd=16          slli t2,t2,15
RN  lane1 pc=80000224 rd=x0 rs1=x14 rs2=x7 prs2=16         bne  a4,t2
ISS port1 pc=80000224 prs2=16 op2=0000000000000004         (issued too early)
ISS port0 pc=80000220 prd=16                               (slli executes later)

bneはslliの結果 (prd 16) を待つべきなのに、2 cycle前に古い値で実行されていた。

w_dis_ready_rs2[d_idx] = (i_dis_uop[d_idx].uop.rs2_type != REG_XPR) |
                         (i_dis_uop[d_idx].prs2 == 'h0) |
                         r_prf_ready[i_dis_uop[d_idx].prs2] |
                         w_dis_match_rs2[d_idx];

prd 16のready bitをクリアするのは同じcycleのw_prf_ready_nextで、反映は次のcycleから。 dispatch時の判定が読むr_prf_ready[16]は、前の持ち主が書き戻したときの1が残っていた。 RATのforwardingと同じ種類のbugで、「同じcycleの前のlaneのrename結果を後ろのlaneに見せる」処理が抜けていた。

dispatchしたentryがIQで見えるのは次のcycleからなので、readyも「このcycleの更新を反映した後の値」を見るのが正しい。 判定をr_prf_readyからw_prf_ready_nextに置き換えて修正した。 w_prf_ready_nextはこのcycleにdispatchされる全laneのprdをクリアした値なので、前のlaneとの比較を別に書く必要がない。

unit TBにも同じcycleに2 laneで依存するテストはあったが、reset直後のprd (ready bitが初期値0) を使っていたので再現していなかった。 このbugはprdが再利用され、前の持ち主のready bitが残っているときにだけ出る。

Free list: rollbackと同じcycleのcommit

IQを直すと、今度はtest_4で失敗した。 使用中のprd 36が、別の命令に重複して割り当てられていた。

RN lane1 pc=800001cc add a4,a1,a2  prd=36
RN lane0 pc=800001d8 li  gp,5      prd=36

直前に、branch redirectによるflushと、branchより古い命令のcommitが同じcycleに起きていた。

[765000] ... redir=1 rpc=0080000160 flush=1 ...
[765000] commit lane[0]: pc=0x80000144 rd=x10 data=0x80000000

retire時のredirectでは、同じcycleの中に「commitすべき命令 (headからbranchまで)」と「flushすべき命令 (branchより後ろ)」が同居する。 正しい復帰先は「registerに保持したarch状態 + このcycleのcommit分」だが、free listのrollbackはregisterのarch状態をそのままmainにコピーしていたので、commit分が抜けていた。

RATは前々回、同じ問題をw_arch_rat_nextで修正済みだった。 free listのcircular buffer実装も同様に、rollback時のhead / tail / queueを「このcycleのpushを反映した後のarch状態」にした。

free listへのpush (i_push_valid) はROBのo_cmt_validそのもので、retireの連鎖はtakenになったbranchの次のlaneで切られる。 なので、flushと同じcycleに来るpushはすべてcommitすべき命令の分で、足してよい。

これまで出なかったのは、IQのready判定のbugで命令が早く実行され、早くcommitしていたため。 正しく待つようになった結果、commitとbranchのretireが同じcycleに重なった。

このmoduleは修正時に書き直していて、rollback時のheadに誤ってpop数を足していた (正しくはpush数) ことも、test_28の後ろ向きloopで踏んで修正した。

現在の状況

rv64ui-p-addはすべてのtest caseを通過してpassに到達するようになった。

ただし、riscv-testsのPASS/FAIL報告はecallでtrap handlerに入り、そこでtohostに書く仕組みになっている。 現段階ではECALLをNOPとしてretireしているので、passに到達してもtohostに書けず、TBの判定はTIMEOUTになる。

そこで暫定的に、各ELFからfail / pass labelのaddressをnmで取り出し、commit traceが先にどちらの範囲に入るかで54本を分類した。

判定 本数
passに到達 43
failに到達 2 (sd、ma_data)
途中で停止 9 (auipc、fence_i、jal、jalr、ld_st、sb、sh、st_ld、sw)

演算系と条件分岐系はほぼ通過し、止まっているのはstore系とjump系に集中している。


この連載の記事一覧: RISC-V OoO CPUを実装する 記事一覧