信息論與編碼理論（第二版）

第1章 引言
1.1 信息論的發(fā)展概況
1.1.1 信息論的早期醞釀
1.1.2 Shannon信息論的建立與發(fā)展
1.1.3 信息論的近期發(fā)展
1.1.4 信息論在信息技術(shù)領(lǐng)域中的應(yīng)用
1.2 信息論與編碼理論的主要內(nèi)容
1.2.1 信息的度量問(wèn)題
1.2.2 通信系統(tǒng)的基本模型
1.2.3 通信系統(tǒng)中信息的傳遞過(guò)程
1.2.4 通信系統(tǒng)的概率統(tǒng)計(jì)模型
1.2.5 通信系統(tǒng)的序列模型
1.3 本書(shū)內(nèi)容簡(jiǎn)介與文獻(xiàn)介紹
1.3.1 內(nèi)容簡(jiǎn)介
1.3.2 有關(guān)著作和文獻(xiàn)介紹
1.3.3 對(duì)有關(guān)記號(hào)的說(shuō)明
習(xí)題1
第一部分 信息論
第2章 信息量
2.1 熵
2.1.1 離散隨機(jī)變量的不肯定性
2.1.2 不肯定性的特征與表示
2.1.3 熵的簡(jiǎn)單性質(zhì)與例子
2.2 聯(lián)合熵和條件熵
2.2.1 聯(lián)合熵的記號(hào)
2.2.2 條件熵的定義與性質(zhì)
2.3 熵的基本性質(zhì)
2.3.1 對(duì)數(shù)函數(shù)的基本不等式與熵函數(shù)的最大值
2.3.2 熵函數(shù)的可加性
2.3.3 Fano不等式
2.4 互熵與互信息
2.4.1 互熵
2.4.2 互信息
2.4.3 條件互信息
2.5 凸函數(shù)及其應(yīng)用
2.5.1 凸函數(shù)的定義與它的判別
2.5.2 Jenson不等式與它的應(yīng)用
2.6 連續(xù)型隨機(jī)變量的信息量
2.6.1 連續(xù)型隨機(jī)變量的Shannon熵
2.6.2 多維連續(xù)型隨機(jī)變量的Shannon熵
2.6.3 其他連續(xù)型隨機(jī)變量的信息量
2.7 最大熵原理
2.7.1 有限區(qū)間情形的最大熵
2.7.2 半開(kāi)區(qū)間情形的最大熵
2.7.3 全直線(xiàn)情形的最大熵
2.7.4 多維連續(xù)型隨機(jī)變量的最大熵
習(xí)題2
第3章 信源編碼
3.1 信源編碼問(wèn)題
3.1.1 信源編碼
3.1.2 定長(zhǎng)編碼與變長(zhǎng)編碼
3.1.3 信源變長(zhǎng)碼的編碼問(wèn)題
3.1.4 信源序列的定長(zhǎng)編碼問(wèn)題
3.2 前綴碼和即時(shí)碼
3.2.1 唯一可譯變長(zhǎng)碼的構(gòu)造
3.2.2 Kraft不等式
3.3 信源變長(zhǎng)碼的編碼定理
3.3.1 最優(yōu)變長(zhǎng)碼平均碼長(zhǎng)的下界估計(jì)
3.3.2 最優(yōu)變長(zhǎng)碼平均碼長(zhǎng)的上界估計(jì)
3.3.3 無(wú)記憶信源平均碼長(zhǎng)的上界和下界估計(jì)
3.4 Huffman信源編碼算法
3.4.1 Huffman編碼的實(shí)例分析
3.4.2 Huffman編碼的一般算法
3.5 Huffman信源編碼性能分析
3.5.1 Huffman編碼的前綴性
3.5.2 Huffman編碼的最優(yōu)性
3.6 信源定長(zhǎng)碼的編碼定理
習(xí)題3
第4章 信道編碼定理
4.1 信道編碼問(wèn)題
4.1.1 通信系統(tǒng)的編碼誤差
4.1.2 信道序列的編碼問(wèn)題
4.2 離散無(wú)記憶信道
4.2.1 離散無(wú)記憶信道的一般定義
4.2.2 幾種特殊的離散無(wú)記憶信道
4.3 無(wú)記憶信道的信道容量
4.3.1 信道容量的一般定義
4.3.2 無(wú)記憶信道序列的容量性質(zhì)
4.4 信道容量的計(jì)算
4.4.1 凸函數(shù)的極大值性質(zhì)
4.4.2 信道容量的計(jì)算
4.5 信道的編碼和譯碼問(wèn)題
4.6 信道的正編碼定理和反編碼定理
4.7 可加高斯(Gaussian)信道
習(xí)題4
第二部分 抽象代數(shù)
第5章 抽象代數(shù)的基本知識(shí)
5.1 群
5.2 環(huán)和域
5.3 理想和商環(huán)
5.4 域上的多項(xiàng)式
5.5 有限域
5.6 域上的線(xiàn)性代數(shù)
習(xí)題5
第三部分 編碼理論
第6章 編碼理論的基本知識(shí)
6.1 碼的基本概念
6.1.1 碼的定義
6.1.2 Hamming距離和Hamming重量
6.1.3 譯碼策略
6.1.4 系統(tǒng)碼
6.2 碼的檢錯(cuò)和糾錯(cuò)能力
6.3 編碼理論的基本問(wèn)題
6.3.1 碼的等價(jià)變換
6.3.2 編碼理論的一些界
習(xí)題6
第7章 線(xiàn)性碼
7.1 線(xiàn)性碼的定義
7.2 線(xiàn)性碼的對(duì)偶碼
7.3 線(xiàn)性碼的譯碼方法
7.4 線(xiàn)性碼的重量分布
習(xí)題7
第8章 Hamming碼
8.1 Hamming碼的定義
8.2 Hamming碼的性質(zhì)
8.3 Hamming碼的譯碼方法
8.4 二元Hamming碼的對(duì)偶碼
習(xí)題8
第9章 循環(huán)碼
9.1 循環(huán)碼的定義
9.2 循環(huán)碼的性質(zhì)
9.3 循環(huán)碼的校驗(yàn)矩陣及其對(duì)偶碼
9.4 循環(huán)碼的編碼方法
9.5 循環(huán)碼的檢錯(cuò)性能
習(xí)題9
第10章 BCH碼和Reed-Solomon碼
10.1 BCH碼及其基本性質(zhì)
10.2 Reed-Solomon碼及其基本性質(zhì)
10.3 BCH碼和Reed-Solomon碼的譯碼方法
10.4 Reed-Solomon碼和最大距離可分碼的重量分布
習(xí)題10
第11章 幾種重要的線(xiàn)性碼
11.1 Golay碼
11.2 Reed-Muller碼
11.2.1 布爾函數(shù)
11.2.2 Reed-Muller碼
11.3 平方剩余碼
11.4 Goppa碼
習(xí)題11
第四部分 信息論和編碼理論的應(yīng)用
第12章 若干應(yīng)用問(wèn)題
12.1 有失真的數(shù)據(jù)壓縮
12.1.1 有失真信源編碼問(wèn)題
12.1.2 有失真信源的率失真函數(shù)
12.1.3 有失真信源編碼的可達(dá)速率
12.1.4 率失真函數(shù)的計(jì)算
12.1.5 有失真信源編碼定理
12.1.6 數(shù)據(jù)壓縮問(wèn)題概述
12.1.7 數(shù)據(jù)壓縮問(wèn)題的實(shí)例分析
12.1.8 數(shù)據(jù)壓縮技術(shù)的主要分析指標(biāo)
12.2 卷積碼理論及其應(yīng)用
12.2.1 卷積碼的構(gòu)造
12.2.2 卷積碼的樹(shù)結(jié)構(gòu)
12.2.3 卷積碼的譯碼算法
12.2.4 卷積碼的應(yīng)用
12.3 幾種實(shí)用的編碼問(wèn)題
12.3.1 漢字編碼
12.3.2 計(jì)算機(jī)代碼
12.3.3 圖形碼
習(xí)題12
主要參考文獻(xiàn)