第4章 流水技术与向量处理
计算机系统结构-第五章自考练习题答案
(效率：3/8△t 效率：3/8)同步强化练习一．单项选择题。
1. 重叠机器局部相关的处理方法有两类：推后后续指令对相关单元的读和〔 C 〕。
A.异步流动B.采用顺序流动C.设置相关直接通路D.调整指令流动的顺序2. CRAY-1的流水线是〔 C 〕。
A. 多条单功能流水线B.一条单功能流水线C.一条多功能流水线D.多条多功能流水线3. 指令间的“一次重叠〞是指〔 B 〕。
A.“K 执行〞与“1+K 取指〞重叠B.“1+K 分析〞与“K 执行〞重叠C.“1+K 取指〞与“K 分析〞重叠D. “K 分析〞与“1+K 执行〞重叠4. 指令缓冲器的容量越大，发生指令相关的概率将〔 A 〕。
A.增大B.降低C.不变D.不定5. “取指〞、“分析〞、“执行〞之间的流水属于〔 B 〕。
A.系统级流水B.处理机级流水C.部件级流水D.作业级流水6. 非线性流水线是指〔 B 〕。
A.流水线中某些功能段在各次运算中的作用不同B.一次运算中要屡次使用流水线中的某些功能段C.一次运算中使用流水线的多个功能段D.流水线的各个功能段在各种运算中有不同的组合7. 关于标量流水机的说法有错的是〔 B 〕。
A.没有向量数据表示B.不能对向量数据进展运算C.可对标量数据进展流水处理D.可以对向量、数组进展运算8. 与流水线最大吞吐率有关的是〔 D 〕。
A.最后子过程的时间B.各个子过程的时间C.最快子过程的时间D.最慢子过程的时间9. 在流水线的相关处理中，会发生“写一写〞相关和“先读后写〞相关的是〔 C 〕。
A.猜想法B.顺序流动C.异步流动D.相关专用通路10. 在流水机器中，全局性相关是指〔 D 〕。
A.先读后写相关B.指令相关C.先写后读相关D.由转移指令引起的相关11. IBM360/91机对指令中断的处理方法是〔 A 〕。
A.不准确断点法B.指令复执法C.准确断点法D.对流水线重新调度12. CRAY-1机的两条向量指令V1←V2+V3V4←V1*V5属于〔 B 〕。
计算机体系重叠流水和向量处理机
计算机体系重叠流水和向量处理机1. 引言计算机体系结构是指计算机硬件和软件组成的总体结构，其中包含了各个组件之间的互连关系、指令执行过程和数据传输方式等。
在计算机体系结构中，重叠流水和向量处理机是两种常见的优化技术，它们可以显著提升计算机的性能和效能。
2. 重叠流水技术重叠流水是一种通过将指令执行过程划分为多个阶段，并在不同阶段同时执行不同的指令来实现指令级并行的技术。
重叠流水的核心思想是任务重叠，即在当前指令执行的同时，下一条指令的取指阶段已经开始，上一条指令的结果也可以被下一条指令使用。
重叠流水主要包含以下几个阶段： - 取指（Instruction Fetch）：从内存中取得当前指令。
- 译码（Instruction Decode）：对指令进行解码，并获取操作数。
- 执行（Execution）：对指令所需的操作数进行运算，得到结果。
- 访存（Memory Access）：根据需要，读取或写入内存中的数据。
- 写回（Write Back）：将结果写回到目标寄存器。
2.1 重叠流水的优势重叠流水技术的优势主要表现在以下几个方面： - 提高了指令级并行处理的能力，加快了程序的执行速度。
- 充分利用了硬件资源，提高了系统的效率和吞吐量。
- 可以将计算任务划分为多个小任务，提高了系统的可扩展性和可移植性。
2.2 重叠流水的限制重叠流水技术虽然可以提高计算机的性能，但也存在一些限制： - 指令之间的依赖关系会影响重叠流水的效果，当一个指令的结果需要被后续指令使用时，需要等待该指令执行完成，从而降低了并行的效果。
- 分支指令（如if、for循环等）会导致流水线的中断和重新调整，影响了流水线的效率。
- 数据冒险（Data Hazards）和控制冒险（Control Hazards）也会对重叠流水的效果造成影响。
3. 向量处理机技术向量处理机是一种以向量为基本数据单位，以向量操作为基本操作，通过向量指令和向量寄存器实现的高性能处理机。
哈工大—并行处理—第二章流水线处理机和向量处理机
1 2 3 4
T0=m. Δt0
(m-1). Δt0
2 3 4 5 时间
n.Δt0
段数 m=4
第1个任务从流入到流出需要T0=m. Δt0的流水建 立时间；之后每隔Δt0流出一个任务。完成n个任务共 需时间 T= m .Δt0+(n-1). Δt0
实际吞吐率为：
n 1 TP= = m .Δt0+(n-1). Δt0 Δt0(1+ =
m
△ α i· t i)
i =1
α i[ Δt i (n 1)Δt j]
i 1
m
对于复杂的非线性流水线，吞吐率和效率需要通过 画实际的时空图才能用下面两个式子求得：
▲
TP=
任务数n
从开始流入到n个任务全部流出的时间T
η=
N个任务的总的加权时空区 m 个段的总的加权时空区
如果线性流水线各段经过的 tc不等，其中瓶颈的时 间为 tj，则完成几个任务所能达到的实际吞吐率
η1= η2=… ηm=
n△t0 T
=
n =η0 m+n-1
●整个流水线的效率为η=
η1+η2+…+ηm m
= m.n△t0 m.T
=η0
▲
若各段经过时间均相同的线性流水，其效率与吞吐率 是成正比的，即: η=TP·△t0 n>>m时，η才趋近于1
▲如果流水线各段经过的时间不等，各段的效率就会不等。
时
空图
2a
入
1
Δt0
出
2b 2c 3 Δt0 3
Δt0
4
Δt0
空间
4
3 2c
2b 2a
1 1
流水线技术-向量处理机
向量处理机概述
向量处理机是一种专门用于处理大规模向量运算的计算机系 统。它通过并行处理多个数据元素，能够高效地完成矩阵运 算、信号处理、图像处理等计算密集型任务。
流水线并行处理
01
02
03
数据并行
将数据划分为多个子集， 每个子集在流水线的一个 阶段进行处理，实现数据 并行处理。
任务并行
将任务划分为多个子任务， 每个子任务在流水线的一 个阶段进行处理，实现任 务并行处理。
指令并行
在同一时间内，流水线可 以执行多个指令，实现指 令并行处理。
流水线冲突解决
数据冲突
并行处理单元
增加并行处理单元，如多核处理器、GPU等，进一步提高计算性能。
05
流水线技术-向量处理机的应用场景
科学计算
数值模拟
向量处理机在科学计算中广泛应用于数 值模拟，如流体动力学、气象预报、地 震数据处理等。
VS
统计分析
向量处理机能够高效处理大规模数据集， 适用于统计分析、数据挖掘等领域。
图像处理
图像增强
向量处理机能够并行处理像素数据，适用于 图像增强技术，如锐化、色彩校正等。
图像分析
在图像识别和目标检测等任务中，向量处理 机能够加速特征提取和比对过程。
机器学习
模型训练
向量处理机能够高效处理大规模数据和矩阵运算，适用于机器学习模型的训练和推理。
并行算法
向量处理机支持并行算法，能够加速机器学习算法的实现和优化。
向量处理机通常采用特殊的硬件架构和指令集，以最大化并 行处理能力。它通过将数据存储在特殊的向量寄存器中，并 执行一组长指令来处理这些数据，从而实现高效的向量计算 。
计算机系统结构--向量处理机
如果程序的90％是向量运算，10％是标 量运算。则向量平衡点为0.9。硬件利用 率最高。 向量处理机的向量平衡点必须与用户程序 的向量化程度相匹配。 IBM向量计算机的设计思想与上述方法不 同，它维持较低的向量与标量比例，定 在3～5的范围之间。这种做法能够适应 通用应用问题对标量和向量处理要求。
6.2.1 存储器－存储器结构
向量处理机中有多个高速流水线运算部件， 存储器的访问速度是关键 采用多个存储体交叉和并行访问来提高存 储器速度，例如： CRAY-1有64个存储体，每个处理 机访问4个存储体 STAR-100采用32个存储体交叉， 每个存储体并行读出8个64位数据 我国研制的YH-1向量计算机有37个 存储体
把存储器-存储器结构中的缓冲栈改为向量 寄存器，运算部件需要的操作数从向量 寄存器中读取，运算的中间结果也写到 向量寄存器中。 向量寄存器与标量寄存器的主要差别是： 一个向量寄存器能够保存一个向量， 例如：64个64位寄存器。 连续访问一个向量的各个分量。 需要有标量寄存器和地址寄存器等。
采用寄存器-寄存器结构的主要优点：降低 主存储器的流量。 例如：采用寄存器-寄存器结构的 CRAY-1与采用存储器-存储器结构的 STAR-100比较，运算速度高3倍多，而 主存流量低2.5倍。 STAR-100的主存储器流量： 32×8W/1.28us=200MW/S CRAY-1的主存储器流量： 4W/50ns=80MW/S
6.3 向量处理方式
要根据向量运算的特点和向量处理机的 类型选择向量的处理方式。 有三种处理方式： 1．横向处理方式，又称为水平处理方 式，横向加工方式等。向量计算是按 行的方式从左至右横向地进行。 2．纵向处理方式，又称为垂直处理方 式，纵向加工方式等。向量计算是按 列的方式自上而下纵向地进行。 3．纵横处理方式，又称为分组处理方
将向量数据表示和流水线技术结合起来,构成向量流水处理
单发射与多发射
单发射处理机：
Hale Waihona Puke 每个周期只取一条指令、只译码一条指令，只执行 一条指令，只写回一运算结果 取指部件和译码部件各设置一套 可以只设置一个多功能操作部件，也可以设置多个 独立的操作部件 操作部件中可以采用流水线结构，也可以不采用流 水线结构 设计目标是每个时钟周期平均执行一条指令，ILP 的期望值1
超流水线处理机（续）
存结果
执行
译码
取指
12 2 5 8 11 1 4 7 10 3 6 9 12 2 5 8 11 1 4 7 10 3 6 9 12 2 5 8 11 1 4 7 10 3 6 9 12 2 5 8 11 1 4 7 10
3
6
9
每个时钟周期分时发送3条指令的超流水线
举例：
MIPS R4000
V7 向量寄存器组(8×64个) 移位 逻辑运算 V0
主
B
向量控制 R/W VM S7
存
地址寄存器 A
T
加 向量 功能 部件 迭代求倒数 相乘 加 浮点 功能 向量控制 部件
标量寄存器 S0
向量长度寄存器 VL
超级向量流水处理机举例
1972年成立CRAY公司，至今生产了400台以上的超级计算机 1979年CRAY-1S，CRAY-1改进型，有10条流水线 1983年CRAY X-MP,用4台CRAY-1 1985年CRAY-2S 1988年CRAY Y-MP，8台处理机 1991年CRAY Y-MP C-90 1996年12月，克雷研究公司也被SGI公司以7.5亿美元收购 2000年，被Tera公司合并，同年更名Cray 目前产品：MTA、SV1、SX_6、T3E 2002年Cray X1。运算速度最高为每秒52万亿次，支持65.5TB存储器。 宣布了在2010年以前实现能够连续地处理每秒1000万亿次 Cray公司称，他们将在2008年使用四核心的AMD Opteron处理器建造 XT4超级计算机，并将在2009年接近1Pflops（每秒1000万亿次浮点运 算）能力。 网址：
计算机体系结构完整讲义ppt课件
• 计算机的更新换代
– 第一代：电子管计算机 – 第二代：晶体管计算机
硬件设计公理： 越小越快
– 第三代：中小规模集成电路
– 第四代：大或超大规模集成电路
– 第五代：VLSI(甚大规模集成电路)
计算机性能的大幅度提高和更新换代，一方面依靠 器件的不断更新，同时也依赖系统结构的不断改进。
30
二 按计算机系统成本分类
• 是对计算机系统中各机器级之间界面的划 分和定义，以及对各级界面上、下的功能 进行分配
– 1964年，IBM/360系列机的总设计工程师G.M. Amdahl、G.A. Blauw、F.P. Brooks等人提出。 也称体系结构。
– 是从程序员的角度所看到的系统的属性，是 概念上的结构和功能上的行为
• 1.2.2 计算机系统的设计方法
• ---软硬件舍取的基本原则 • ---计算机系统设计者的主要任务 • ---计算机系统设计的基本方法 （三种）
• 计算机语言：是用以描述控制流程的、 有一定规则的字符集合
– 语言不是专属软件范畴，可以介属于计算机 系统的各个层次，具有不同作用
4
1.1.1计算机系统的多级层次结构
从使用语言的角度上，将计算机系统 看成按功能划分的多级层次结构
机器、汇编、高级、应用语言
低级
高级
后者比前者功能更强、使用更方便；
而前者是后者发展的基础，在单条指令的 执行速度相比较，前者更快。
•第1章 •第2章 •第3章 •第4章 •第5章 •第6章
计算机系统设计基础 数据表示与指令系统性能分析 流水技术和向量处理 阵列计算机 多处理机系统 数据流计算机
1
第1章 计算机系统设计基础
• 1.1 计算机系统的基本概念 • 1.2 计算机系统的设计技术 • 1.3 计算机系统的性能评价 • 1.4 计算机系统结构的发展
计算机体系结构向量处理基础知识详解
计算机体系结构向量处理基础知识详解在计算机科学领域中，向量处理是一种重要而广泛使用的技术，它在数据处理和科学计算中发挥着举足轻重的作用。
本文将对计算机体系结构中的向量处理进行详细的介绍与解析。
一、基础概念1. 向量处理的定义向量处理是一种通过向量单元来执行并行运算的技术。
在向量处理中，多个数据元素被打包成向量，然后同时在向量单元中进行计算。
2. 向量与标量的对比在计算机科学中，向量是一种具有相同数据类型的一组数据元素，可以进行并行计算。
而标量则是单个数据元素，只能进行串行计算。
二、向量处理的特性1. 数据并行性向量处理具有数据并行性，即同时对多个数据元素进行操作。
向量指令一次执行多个操作，大大提高了计算效率。
2. 向量长度与向量单元向量长度是指向量中包含的数据元素个数。
常见的向量长度包括128位、256位和512位等。
向量单元是执行向量操作的硬件单元，其功能主要包括向量寄存器、向量指令和向量乘加器等。
三、向量指令集1. 向量指令的分类向量指令可以分为数据移动指令、数据计算指令和逻辑控制指令三类。
2. 数据移动指令数据移动指令用于将数据从内存加载到向量寄存器，或者将向量寄存器中的数据存储到内存中。
3. 数据计算指令数据计算指令是向量处理中最核心的指令类型，包括向量加法、向量乘法、向量除法等。
这些指令能够快速执行向量级别的数据运算。
4. 逻辑控制指令逻辑控制指令用于实现条件判断、循环控制等逻辑操作。
这些指令可以根据条件改变程序的执行流程。
四、向量处理的应用1. 科学计算领域向量处理在科学计算领域中被广泛应用，例如在物理模拟、气候模拟、遗传算法等计算密集型任务中，向量处理能够大幅提升计算效率。
2. 图像和视频处理向量处理也在图像和视频处理领域有着重要的应用。
通过对图像和视频数据进行向量化处理，可以实现高效的图像处理和视频压缩等任务。
3. 人工智能与深度学习近年来，人工智能和深度学习的快速发展对计算性能提出了更高的要求。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
3．同步 分析与执行所需的时间不同，要求的是一次 重叠 一 次 重 叠 ： 任 何 时 间 都 是 “ 分 析 K+1” 与 “执行K”的重叠 =>相邻两条指令的重叠
分析K 执行K 分析K+1 执行K+1
T=(n+1)t
2018/11/17 14
4．转移
无条件转移 / 条件转移 当转移成功时，重叠预 取无效，变为顺序执行 应尽可能不使用或少使用条件转移指令
2018/11/17 23
3、流水线的预约表
时间 流水段
1
X
2
3
4
X
5
6
7
X
S1 S2
X
X
S3
S4
X
X
X
2018/11/17
24
三、流水线工作方式
1、流水线的结构
流水线的基本结构中主要包括三大部分：锁存器、时钟、 功能段。
流水线中每个段都是由一些执行算术和逻辑功能的组合逻 辑线路组成的，它们可以互相独立地对流过的信息进行某种操 作，相邻两站由高速锁存器（ latch ）隔开，信息在各段间的 流动靠同时送到各站的时钟信号来控制。
2018/11/17 7
指令的重叠解释与先行控制
• 计算机系统中广泛存在着重叠工作方式 • 指令的解释方式一般只有三种：顺序、 重叠和流水 • 重叠和流水给指令的执行带来了高的吞 吐率和加速比，同时也给系统增加了障 碍
2018/11/17
8
指令的解释过程
ALU LOAD/STORE
取指
译码、读寄存器堆
5．相关
邻近指令之间出现某种关联，为避免出错而不 能同时执行的现象。
局部性相关、全局性相关
2018/11/17
15
2018/11/17
16
先行控制技术
• 基本思想：使分析和执行部件分别连续不断地运行，使部 件空闲状态减至最低。
分析k 执行k 分析k+1
执行部件空闲
执行k+1 分析k+2
分析k
执行k 分析k+1 执行k+1 分析k+2 执行k+2
•第1章 •第2章 •第3章 •第4章 •第5章 •第6章 •第7章
计算机系统设计基础 数据表示与指令系统性能分析 通道处理机 流水技术和向量处理 阵列计算机 多处理机系统 其它计算机结构
2018/11/17
1
第4章 流水技术与向量处理
4.1 标量流水工作原理 4.2 标量流水中的障碍及控制 4.3 流水线的调度技术 4.4 先进的流水技术 4.5 Pentium微处理器中的流水技 术 4.6 向量流水技术
T 流水时空图
2018/11/17 27
3、流水线的分级、分类
分级：（处理的级别分类） 部件级(操作流水线)：将复杂的算逻运算组成流水工作方式；
指令级：把一条指令解释过程分成多个子过程 ；
处理机级：每个处理机完成某一专门任务，各个处理机所得到的 结果需存放在与下一个处理机所共享的存储器中
2018/11/17 28
2018/11/17 6
引出下述关于洗衣机工作的有关性能特点： 吞吐率：单位时间内完成的任务数TP=n/T 加速比：串行方式与流水线方式的时间比：上述为 45/25=1.8 效率：即洗衣机的利用率，上述洗衣机的效率是 9/15=3/5=60%
将一条指令的执行分为几个阶段，让几条指令按重 叠或流水方式工作，以提高程序的执行速度。这就 引出了计算机中的流水线技术。
△t0 △ t0 △ t0 △ t0
正常
排空 5 ... ... ... ... ... ... n-1 n ... ... n-1 n ... n-1 n n-1 n
(n-1) △ t0
2 3 4 3 4 5 4 5 ... 5 ... ...
n △
T0=m
△ t0 t0 (m-1) △ t0
时间
2018/11/17
20
1、简单流水线的连接图表示
IF ID
输入
取指
S1
译码
S2
EX 执行 S3
MEM
WB
访存
S4
写回
S5
输出
流水线的每一个阶段称为流水段、流水线 阶段、流水功能段、功能段、流水级、流水 节拍等。一个流水阶段与另一个流水阶段相 连形成流水线。 有些复杂指令，在执行阶段也采用流水线 方式工作，称为操作流水线。
IF
ID
取指
译码、读寄存器堆
EX
MEM WB
2018/11/17
执行
---
计算访存有效地址
访存（读或写）
结果写回寄存器堆 将读出的数据写入寄存器堆
9
一、指令的重叠解释方式
1、顺序执行方式 一条指令的执行过程：取指令->分析->执行 执行n条指令所用的时间为：
T
(t 取指令
i 1
n
i
t 分析 i t 执行 i ）
IF
输入 取指 S1
2018/11/17
ID
译码
EX 执行
MEM
访存 S4
WB
写回 S5
25
输出
S2 S3 指令的流水处理
输入
S1 S2
….. .….
输出 Sm
时钟 流水线的基本结构
2018/11/17 26
2、流水线工作的三个时间
建立时间、正常流动时间、排空时间。 空间 4 填入 1 3 1 2 2 1 2 3 1 1 2 3 4
2018/11/17 21
一种指令流水线
取指 译码 形成操 作数地址 取操 作数 执行 保存 结果
–一般4至12个流水段，等于及大于8个流水段的称为超流 水线处理机
2、流水线的时空图 采用“时空图”表示流水线的工作过程。
–一条简单流水线的时空图：
2018/11/17
22
• 一个浮点加法器流水线的时空图(由求阶差、对阶、 尾数加和规格化4个流水段组成)：
如每段时间都为t，则执行n条指令所用的时间为：T=3nt 主要优点：控制简单，节省设备。 主要缺点：执行指令的速度慢，功能部件的利用率很低。
取指令k 分析k 执行k 取指令k+1 分析k+1 执行k+1
2018/11/17 10
2、重叠执行方式(最简单的流水线方式)
取指 分析 执行 取指 分析 执行 取指 分析 执行
2 3 4 5 ...
3 4 5 ... ...
4 5 ... ... ...
4 5 ... ... ... n-1 n 一 一 二 一 二 三 5 ... ... ... n-1 n ... ... ... n-1 n ... ... n-1 n ... n-1 n n-1 n 一 二 三 四
二 三 四 三 四 五 四 五 六
30
乘 1 输入
2
3
4
5
5
6
7
8
2018/11/17
空间 (段号)
加法
乘法
8 7 6 5 4 3 1 1 2 1 2 3 2 1 1 2 3 4
1 2
3
4 ... ... ... n-1 n
一
一 二 一 二 三
1 2 3 4 ...
2 3 4 ... ...
3 4 ... ... ...
4 ... ... ... n-1 n ... ... ... n-1 n ... ... n-1 n ... n-1 n n-1 n
其他分类： 功能：单功能流水线（如CRAY-1）、多功能流水线（如 TI-ASC） 工作方式：静态流水线、动态流水线 连接方式：线性、非线性 处理数据：标量流水、向量流水 入 1 2 3 4 非线性流水线
2018/11/17 29
出
4、流水线举例
1)ASC算术运算流水线（多功能） 加 1 2 3 4 输入 减阶 对阶移位 相加 规格化 相乘 累加 输出 8 输出 1 输入 减阶 对阶移位 相加 规格化 6 7 8 相乘 累加 输出
一二 三 四
时间
静态多功能流水线时-空图
静态流水线：只有当进入的是一串相同运算的指令时，流水的 效能才得以发挥，才能使各个功能段并行地对多条指令的数据 进行流水处理。
2018/11/17 31
m 8 7 6 5 4 3 2 1 1 2 3
加法
乘法
1 1 2 1 2 3 1 2 3 4 1 2 3 4 5
五 六 七
时间
动态多功能流水线时-空图
区别：如果从软硬功能分配的观点上来看，静态流水线其实是 把功能负担较多地加到软件上，以简化硬件；动态流水线则是 把功能负担较多地加在硬件上，以提高流水的效能。
2018/11/17 32
四、标量流水线性能分析
衡量流水线处理机的性能主要是吞吐率、加速比和效率。
ห้องสมุดไป่ตู้
1．吞吐率：单位时间内能处理的指令条数或能输出的数据量。 吞吐率越高，计算机系统的处理能力就越强。就流水线而言， 吞吐率就是单位时间内能流出的任务数或能流出的结果数。 最大吞吐率：流水线达到稳定状态后可获得的吞吐率。
• 工作原理
主存 存 控 数据缓冲栈 先行 指令栈 先行读 数栈 后行写 数栈
指令分析器
先行操作栈
执行 部件
栈的深度要求：D指缓≥D操作≥ D读栈≥ D写栈
2018/11/17 19
二、标量流水工作原理
• 基本思想：流水是重叠的进一步延伸， 使指令解释过程进一步细化，提高各部 件的利用率，以提高指令执行速度。 • 流水线的表示方法：连接图、时空图、 预约表