设计一个简易的处理器(8)--流水线冒险的避免

上一篇已经介绍了流水线的相关和冒险,本篇介绍避免流水线冒险几种技术.

暂停技术(Stalling)避免数据冒险
————
通过上一篇的介绍,PIPELINE的数据冒险只发生在读/取同一个程序寄存器的时候. 只需要在PIPE-(硬件结构图见本系列6)的基础上使用暂停(Stalling)技术来避免数据冒险.下面具体分析暂停技术的暂停条件和实现.

1.暂停条件
源寄存器 - srcA和srcB:当前指令处于Decode阶段.
目标寄存器 - dstE和dstM:处于Excute,
Memory和Write Back阶段.
条件 -srcA==dstE or srcA==dstM;srcB==dstE or srcB==dstM
注意:当寄存器的ID=F时,表示没有寄存器,所以也就不需要暂停啦.

2.具体例子
下面看具体的两个例子,来分析暂停技术.



观察Cycle 6, addl指令处于Decode阶段,而%eax还处于Write
Back阶段,还没有写回从而导致了数据冒险.当采用暂停技术的PIPELINE的暂停控制逻辑(根据前面的暂停条件)发现了数据冒险,就会在Execute阶段中插入一个气泡(bubble),而addl和halt指令暂停.
Cycle 7中暂停条件不在满足,就正常的流水线执行即可.



观察Cycle 4,暂停控制逻辑发现了数据冒险(满足暂停条件),在Execute阶段中插入一个气泡(bubble),
addl和halt指令暂停;同理,在Cycle
5和Cycle 6中暂停控制逻辑同样检测出数据冒险,处理方式一样,在Execute阶段中插入一个气泡(bubble),
addl和halt指令暂停.直到Cycle
7中发现暂停逻辑不再满足,就执行正常的流水线执行即可.

3.流水线的暂停控制逻辑的实现
前面很早就说过,控制逻辑是一个组合电路,下图就是一个带有暂停控制逻辑的PIPELINE.



图:带有暂停控制逻辑的PIPELINE-.
其实就是在PIPELINE-的基础上,增加了一个暂停控制逻辑(组合电路),它的主要目的就是根据暂停条件发现数据冒险,一点发生数据冒险,就在Execute阶段插入bubble(向一个动态的NOP指令似的),当前指令和后续指令处于暂停状态,然后依次推进.如上图所示,插入bubble发生在Execute阶段;暂停(Stall)发生在Fetch和Decode阶段.

下面是暂停技术的原理示意图.



图:暂停技术的原理示意图(不允许stall和bubble同时为1)

3.暂停控制逻辑的优缺点
优点:简单,容易实现
缺点:数据冒险经常发生,性能不高.

数据转发技术(Data Forwarding)避免数据冒险
————
暂停技术的性能不高,通过观察,我们流水线中只有Execute和Memory这两个阶段产生值,当前指令Decode时可以直接获取其上指令的Execute和Memory阶段产生的值.这种将结果值直接从流水线阶段传到较早阶段的技术称为数据转发(data
Forwarding or bypassing).

1.转发源
我们的流水线模型中,只有Execute和Memory会产生值.所以主要有下面几个转发源.



转发源有:
Execute阶段: e_ValE
Memory阶段: M_valE, m_valM
Write Back阶段: W_valE, W_valM

2.示例



观察Cycle 6, addl指令处于Decode阶段,而%eax还处于Write
Back阶段,还没有写回从而导致了数据冒险.当采用转发技术的PIPELINE的转发控制逻辑发现了数据冒险,直接将W_valE的值直接转发给valB.



观察Cycle 4,转发控制逻辑发现了数据冒险,直接将M_valE转发给valA,e_valE转发给valB.

3.实现



观察"Sel+FwdA"和"Fwd
B"两个控制逻辑,通过使用反馈路径实现了转发控制逻辑.

4.转发技术的局限性
有一类数据冒险不能单纯用转发来解决.那就是加载/使用冒险,这一类数据冒险需要转发技术+暂停技术相结合来解决.

加载/使用冒险的避免
————
1.加载/使用冒险(load/usehazard)示例



单纯的使用转发技术,上述情况会发生数据冒险.观察Cycle
7, addl指令处于Encode阶段,需要%eax的值,但是mrmovl在Cycle
8才会在访存阶段中读出这个寄存器的值.这种由寄存器的值来自存储器而导致结果错误,称为加载/使用冒险.

2.避免加载/使用冒险
对于加载/使用冒险,你可能已经猜到,使用暂停技术来解决(这种方法称为加载互锁,详见上面的暂停技术的原理示意图).



如上图所示,可以使用"加载互锁+转发技术
" 解决所有类型的数据冒险.

3.加载互锁的实现



总结:只有加载互锁会降低流水线的吞吐量,使用"加载互锁+转发技术
"几乎可以实现每个时钟周期发射一条新指令的吞吐量的目标啦~

暂停技术(Stalling)避免预测错误的分支导致控制冒险
————
1.预测错误导致控制冒险的示例(前文已经介绍)
0x000: xorl %eax,%eax
0x002: jne t # Not taken
0x007: irmovl $1, %eax # Fall through
0x00d: nop
0x00e: nop
0x00f: nop
0x010: halt
0x011: t:irmovl $3, %edx # Target (Should not execute)
0x017: irmovl $4, %ecx # Should not execute
0x01d: irmovl $5, %edx # Should not execute



流水线会选择分支,所以开始取跳转目标处的指令.实际上在Cycle
4结束就可以发现预测错误啦.

2.预测错误的触发条件



在Execute阶段末开始计算产生e_Bch的信号,就可以判断是否预测错误了.

3.预测错误的分支导致控制冒险的避免



观察Cycle 4.在Cycle
4快结束前就可以判断出分支预测错误了, PIPELINE的控制逻辑发现了控制冒险,这时候按照下表处理.

Condition	F	D	E	M	W
分支预测错误	normal	bubble	bubble	normal	normal

4.实现



暂停技术可以很容易的解决由分支预测导致的控制冒险.

暂停技术(Stalling)避免ret导致控制冒险
————
1. ret导致控制冒险的示例(前文已经介绍)
前文说过, PIPE不对ret的PC进行预测.所以ret也会导致控制冒险.
例如:



2. ret的触发条件



3. ret导致控制冒险的避免



按照下表处理.

Condition	F	D	E	M	W
ret	normal	bubble	normal	normal	normal

4.实现



小小总结
————
完全可以使用"加载互锁+转发技术"解决所有的数据冒险,同样可以使用"加载互锁"方法解决控制冒险.转发技术不会降低流水线的吞吐量,而加载互锁是通过暂停技术来实现的,所以会降低流水线的吞吐量,但是几乎可以实现每个时钟周期发射一条新指令的吞吐量的目标.

下一篇将详细讨论PIPE各个阶段的实现和流水线的控制逻辑.

reference:
1. 深入理解计算机系统（原书第2版）

(版权所有，转载时请注明作者和出处-dennis_fan-http://blog.csdn.net/dennis_fan