軟硬件融合：超大規(guī)模云計(jì)算架構(gòu)創(chuàng)新之路

引言
第1章 云計(jì)算底層軟硬件
1.1 云計(jì)算概述
1.1.1 云計(jì)算的概念
1.1.2 IaaS、PaaS和SaaS
1.2 IaaS層核心服務(wù)
1.2.1 計(jì)算類(lèi)服務(wù)
1.2.2 存儲(chǔ)類(lèi)服務(wù)
1.2.3 網(wǎng)絡(luò)類(lèi)服務(wù)
1.2.4 IaaS層服務(wù)總結(jié)
1.3 云計(jì)算的特點(diǎn)
1.3.1 更大的規(guī)模
1.3.2 更“大”的數(shù)據(jù)
1.3.3 更多的租戶(hù)
1.3.4 更復(fù)雜的網(wǎng)絡(luò)
1.3.5 安全問(wèn)題無(wú)處不在
1.3.6 面向特定應(yīng)用場(chǎng)景的云計(jì)算服務(wù)
1.3.7 服務(wù)接口的兼容性和通用性
1.4 底層軟硬件挑戰(zhàn)
1.4.1 業(yè)務(wù)異構(gòu)加速
1.4.2 工作任務(wù)卸載
1.4.3 軟硬件接口的標(biāo)準(zhǔn)化和靈活性
1.4.4 硬件處理的虛擬化和個(gè)性化
1.4.5 業(yè)務(wù)和管理物理分離
1.4.6 硬件的功能擴(kuò)展
1.4.7 讓硬件快速迭代
1.4.8 硬件高可用
1.5 總結(jié)
第2章 軟硬件融合綜述
2.1 軟硬件基本概念
2.1.1 軟件和硬件
2.1.2 FPGA、ASIC和SoC
2.1.3 硬件加速原理
2.2 軟硬件劃分
2.2.1 三個(gè)維度
2.2.2 綜合分析
2.2.3 平臺(tái)選擇
2.3 軟硬件協(xié)作
2.3.1 多平臺(tái)混合架構(gòu)
2.3.2 軟硬件平臺(tái)的協(xié)作
2.3.3 軟硬件平臺(tái)的交互
2.4 軟硬件融合
2.4.1 軟硬件融合的概念
2.4.2 軟硬件融合的特點(diǎn)
2.4.3 軟硬件融合技術(shù)
第3章 計(jì)算機(jī)體系結(jié)構(gòu)基礎(chǔ)
3.1 計(jì)算機(jī)原理
3.1.1 處理器架構(gòu)：從馮·諾依曼架構(gòu)到RISC-V
3.1.2 內(nèi)存地址：從尋址模式到MMU
3.1.3 I/O：從CPU中斷到DMA
3.1.4 多核互連：從傳統(tǒng)總線(xiàn)到網(wǎng)狀總線(xiàn)
3.1.5 服務(wù)器板級(jí)架構(gòu)
3.2 存儲(chǔ)
3.2.1 緩存和存儲(chǔ)分層結(jié)構(gòu)
3.2.2 本地存儲(chǔ)：磁盤(pán)分區(qū)和邏輯/物理卷
3.2.3 分布式存儲(chǔ)：GFS和存儲(chǔ)的“溫度”
3.3 網(wǎng)絡(luò)
3.3.1 基礎(chǔ)物理網(wǎng)絡(luò)：分層和拓?fù)?br />3.3.2 虛擬網(wǎng)絡(luò)：VLAN和VxLAN
3.3.3 軟件定義網(wǎng)絡(luò)：從OpenFlow到P4
3.4 虛擬化
3.4.1 虛擬化的層次、定義和分類(lèi)
3.4.2 CPU虛擬化：從軟件模擬到完全硬件
3.4.3 內(nèi)存虛擬化：影子頁(yè)表和EPT
3.4.4 I/O設(shè)備虛擬化：從軟件模擬到SR-IOV
3.4.5 容器虛擬化：Docker和Kubernetes介紹
第4章 軟硬件接口
4.1 軟硬件接口概述
4.1.1 軟硬件接口定義
4.1.2 生產(chǎn)者-消費(fèi)者模型
4.1.3 用戶(hù)態(tài)的PMD：DPDK和SPDK
4.2 總線(xiàn)互連
4.2.1 AMBA總線(xiàn)
4.2.2 片上網(wǎng)絡(luò)NoC總線(xiàn)
4.2.3 片間高速總線(xiàn)PCIe及SR-IOV
4.2.4 對(duì)稱(chēng)的緩存一致性總線(xiàn)CCIX
4.2.5 非對(duì)稱(chēng)的緩存一致性總線(xiàn)CXL
4.2.6 總線(xiàn)互連總結(jié)
4.3 通用接口Virtio
4.3.1 Virtio寄存器
4.3.2 Virtqueue交互隊(duì)列
4.3.3 Virtio交互
4.3.4 總結(jié)
4.4 高速網(wǎng)絡(luò)接口RDMA
4.4.1 基本概念
4.4.2 RoCE分層
4.4.3 RDMA接口
4.4.4 RDMA總結(jié)
4.5 高速存儲(chǔ)接口NVMe
4.5.1 NVMe概述
4.5.2 NVMe寄存器
4.5.3 NVMe隊(duì)列
4.5.4 NVMe命令結(jié)構(gòu)
4.5.5 網(wǎng)絡(luò)存儲(chǔ)接口NVMeoF
4.5.6 NVMe及NVMeoF總結(jié)
4.6 軟硬件接口總結(jié)
4.6.1 接口分層
4.6.2 接口共享
第5章 算法加速和任務(wù)卸載
5.1 基本概念
5.1.1 硬件加速
5.1.2 硬件處理模塊
5.1.3 算法加速和任務(wù)卸載的概念
5.2 算法加速
5.2.1 加密算法加速
5.2.2 壓縮算法加速
5.2.3 數(shù)據(jù)冗余算法加速
5.2.4 正則表達(dá)式算法加速
5.2.5 加速器性能設(shè)計(jì)原則
5.3 任務(wù)卸載
5.3.1 任務(wù)卸載模型
5.3.2 IPsec卸載
5.3.3 虛擬網(wǎng)絡(luò)卸載
5.3.4 遠(yuǎn)程存儲(chǔ)卸載
5.3.5 虛擬化卸載
5.4 算法加速和任務(wù)卸載總結(jié)
5.4.1 算法加速是基礎(chǔ)
5.4.2 任務(wù)卸載是多系統(tǒng)協(xié)作
第6章 虛擬化硬件加速
6.1 基本概念
6.1.1 軟硬件中的抽象
6.1.2 虛擬化抽象
6.1.3 虛擬化模型
6.1.4 虛擬化加速的必要性
6.2 虛擬化的硬件處理
6.2.1 流水線(xiàn)處理
6.2.2 虛擬化映射
6.2.3 緩存機(jī)制
6.2.4 通用虛擬化流水線(xiàn)
6.3 網(wǎng)絡(luò)虛擬化處理
6.3.1 包處理用于網(wǎng)絡(luò)虛擬化
6.3.2 定制的網(wǎng)絡(luò)包處理
6.3.3 ASIC軟件可編程包處理
6.3.4 FPGA硬件可編程包處理
6.3.5 案例：Mellanox FlexFlow
6.3.6 網(wǎng)絡(luò)包處理總結(jié)
6.4 存儲(chǔ)虛擬化處理
6.4.1 分布式存儲(chǔ)Ceph
6.4.2 以事務(wù)為單位的存儲(chǔ)處理
6.4.3 遠(yuǎn)程存儲(chǔ)虛擬化加速
6.4.4 本地存儲(chǔ)虛擬化加速
6.5 虛擬化硬件加速總結(jié)
6.5.1 靈活的高性能流水線(xiàn)
6.5.2 高性能緩存機(jī)制
6.5.3 可軟件編程、通用、數(shù)據(jù)流驅(qū)動(dòng)的數(shù)據(jù)處理引擎
6.5.4 虛擬化硬件加速的意義
6.5.5 其他虛擬化加速場(chǎng)景
第7章 異構(gòu)加速
7.1 異構(gòu)計(jì)算概述
7.1.1 基本概念（并行計(jì)算、異構(gòu)計(jì)算）
7.1.2 典型案例
7.1.3 性能約束和優(yōu)化
7.1.4 易用性思考
7.2 GPU和CUDA
7.2.1 GPU和CUDA概念
7.2.2 GPU硬件架構(gòu)
7.2.3 CUDA編程模型
7.3 OpenCL和FPGA異構(gòu)計(jì)算
7.3.1 OpenCL
7.3.2 Xilinx SDAccel
7.3.3 英特爾加速棧
7.4 DSA
7.4.1 DSA發(fā)展背景
7.4.2 DSA典型領(lǐng)域：DNN
7.4.3 ASIC實(shí)現(xiàn)：谷歌TPU
7.4.4 FPGA實(shí)現(xiàn)：微軟Catapult
7.4.5 Chiplet實(shí)現(xiàn)：OCP ODSA
7.5 異構(gòu)加速計(jì)算總結(jié)
7.5.1 平臺(tái)選擇（GPU、FPGA、ASIC/DSA）
7.5.2 異構(gòu)計(jì)算加速優(yōu)化
第8章 云計(jì)算體系結(jié)構(gòu)趨勢(shì)
8.1 概述
8.2 業(yè)務(wù)和管理分離
8.2.1 虛擬化視角：I/O及管理的卸載
8.2.2 體系結(jié)構(gòu)視角：以數(shù)據(jù)為中心
8.2.3 Nitro系統(tǒng)
8.2.4 Mellanox Bluefield DPU
8.2.5 總結(jié)
8.3 業(yè)務(wù)的異構(gòu)加速
8.3.1 業(yè)務(wù)加速概述
8.3.2 DSA加速：谷歌TPU服務(wù)
8.3.3 FPGA加速：FaaS
8.3.4 異構(gòu)計(jì)算架構(gòu)演進(jìn)
8.4 存儲(chǔ)的加速和定制
8.4.1 存儲(chǔ)概述
8.4.2 熱存儲(chǔ)服務(wù)器：Xilinx NVMeoF參考設(shè)計(jì)
8.4.3 機(jī)架級(jí)冷存儲(chǔ)：微軟Pelican
8.5 網(wǎng)絡(luò)可編程和性能優(yōu)化
8.5.1 數(shù)據(jù)中心網(wǎng)絡(luò)綜述
8.5.2 數(shù)據(jù)面編程交換芯片
8.5.3 高性能網(wǎng)絡(luò)優(yōu)化
8.6 硬件定制
8.6.1 硬件定制概述
8.6.2 亞馬遜的硬件定制
8.6.3 OCP開(kāi)放計(jì)算項(xiàng)目
第9章 融合的系統(tǒng)
9.1 軟硬件融合系統(tǒng)棧
9.1.1 系統(tǒng)邊界：多數(shù)據(jù)中心
9.1.2 數(shù)據(jù)中心的系統(tǒng)堆棧
9.2 分層的系統(tǒng)實(shí)現(xiàn)
9.2.1 迭代的系統(tǒng)
9.2.2 分域的硬件平臺(tái)
9.2.3 不同層次的實(shí)現(xiàn)
9.2.4 軟硬件協(xié)同設(shè)計(jì)
9.3 深層次開(kāi)放合作
9.3.1 軟硬件的距離越來(lái)越大
9.3.2 互聯(lián)網(wǎng)公司自研芯片的優(yōu)劣勢(shì)
9.3.3 深層次的開(kāi)放合作
參考文獻(xiàn)