資訊理論基礎(第2版)

資訊理論基礎(第2版)

《資訊理論基礎(第2版)》是2020年1月人民郵電出版社出版的圖書,作者是田寶玉、楊潔、賀志強、許文俊。

基本介紹

  • 中文名:資訊理論基礎(第2版)
  • 作者:田寶玉、楊潔、賀志強、許文俊
  • 出版時間:2020年1月
  • 出版社:人民郵電出版社
  • 頁數:303 頁
  • ISBN:9787115391513
  • 定價:54 元
  • 開本:16 開
  • 裝幀:平裝
內容簡介,圖書目錄,

內容簡介

本書第 二版是作者在原版的基礎上,結合近幾年的教學和科研實踐,再次對教材內容進行整合、補充和完善而形成的。第 二版沿用原版的基本框架,仍然分為12章,內容主要包括:信息的基本概念、離散信息的度量、離散信源的熵、連續信息與連續信源、無失真信源編碼、離散無記憶信道容量、有噪信道編碼、波形信道容量、信息率失真函式、有約束信道編碼、網路資訊理論和信息理論方法與套用等。除充實和增加的內容外,第 二版另一項重要工作就是增加了大量習題。
本書在內容的選擇上既考慮到基礎性又考慮先進性和時代性,在編寫方式上既注重基本概念的闡述又注重與通信和信息處理的實際相結合。本書強調定理中物理概念和結論的理解和掌握,簡化煩瑣的數學推導,注重使用明確、直觀的物理概念,增加實例,力求讓講述的內容更適合工科專業學生的學習。本書配有大量思考題和習題作為學生課後的練習,這對於學生深入理解所學知識,提高基本運算和解決實際問題的能力都有很大幫助。

圖書目錄

第 1章 緒論
1.1 信息的基本概念
1.1.1 資訊理論的產生
1.1.2 信息的基本概念
1.2 香農資訊理論研究的內容
1.2.1 通信系統模型
1.2.2 香農資訊理論的主要內容
1.3 香農資訊理論研究的進展與套用
1.3.1 香農資訊理論創立的背景
1.3.2 香農的主要貢獻
1.3.3 香農資訊理論研究進展
1.3.4 香農資訊理論的套用
思考題
第 2章 離散信息的度量
2.1 自信息和互信息
2.1.1 自信息
2.1.2 互信息
2.2 信息熵的基本概念
2.2.1 信息熵
2.2.2聯合熵與條件熵
2.2.3 相對熵
2.2.4 各類熵之間的關係
2.3 信息熵的基本性質
2.3.1 凸函式及其性質
2.3.2熵的基本性質
2.3.3熵函式
2.3.4 有根機率樹與熵的計算
2.4 平均互信息
2.4.1 平均互信息的定義
2.4.2 平均互信息的性質
2.4.3 平均條件互信息
本章小結
思考題
習題
第3章 離散信源
3.1 離散信源的分類與數學模型
3.1.1 離散信源的分類
3.1.2離散無記憶信源數學模型
3.1.3離散有記憶信源數學模型
3.1.4離散平穩信源數學模型
3.2 離散無記憶信源的擴展
3.2.1 等長訊息擴展
3.2.2 變長訊息擴展
3.3 離散平穩信源的熵
3.3.1單符號信源的熵
3.3.2等長無記憶擴展源的熵
3.3.3變長無記憶擴展源的熵
3.3.4平穩有記憶信源的熵
3.4 有限狀態馬爾可夫鏈
3.4.2 馬氏鏈的基本概念
3.4.2 齊次馬氏鏈
3.4.3馬氏鏈狀態分類
3.4.4 馬氏鏈的平穩分布
3.5.1 馬氏源的基本概念
3.5.2 馬氏源的產生模型
3.5.3 馬氏鏈N次擴展源熵的計算
3.5.4 馬氏源符號熵的計算
3.6 信源的相關性與剩餘度
3.6.1 信源的相關性
3.6.2信源的剩餘度
3.6.3 文本信源
本章小結
思考題
習題
第4章 連續信息與連續信源
4.1 連續隨機變數的熵
4.1.1連續隨機變數的離散化
4.1.2連續隨機變數的熵
4.1.3連續隨機變數差熵的性質
4.1.4連續隨機變數集的相對熵
4.2 離散時間高斯隨機變數的熵
4.2.1一維高斯隨機變數的熵
4.2.2多維獨立高斯隨機矢量的熵
4.2.3多維相關高斯隨機矢量的熵
4.2.4高斯馬爾可夫過程的熵率
4.3 連續**大熵定理
4.3.1限峰值**大熵定理
4.3.2限平均功率**大熵定理
4.3.3 **大熵率定理
4.3.4熵功率
4.4 連續隨機變數的平均互信息
4.4.1連續隨機變數的平均互信息
4.4.2連續隨機變數平均互信息的性質
4.5 離散與連續隨機變數之間的互信息
4.5.1離散事件與連續事件之間的互信息
4.5.2離散與連續隨機變數之間的平均互信息
本章小結
思考題
習題
第5章 無失真信源編碼
5.1 概述
5.1.1 信源編解碼器模型
5.1.2 信源編碼的分類
5.1.3分組碼
5.1.3無損信源編碼系統
5.2 定長碼
5.2.1 無失真編碼條件
5.2.2 漸近均分特性
5.2.3 定長碼信源編碼定理
5.3 變長碼
5.3.1 異前置碼的性質
5.3.2變長碼信源編碼定理
5.4 **優編碼
5.4.1 二元哈夫曼編碼
5.4.2 多元哈夫曼編碼
5.4.3 哈夫曼決策樹
5.4.4 規範哈夫曼編碼
5.4.5 馬氏源的哈夫曼編碼
5.4.6 香農碼
*5.5 幾種實用的信源編碼方法
5.5.1 算術編碼
5.5.2 遊程編碼
5.5.3 LZ編碼
本章小結
思考題
習題
第6章離散信道及其容量
6.1 概述
6.1.1信道的分類
6.1.2離散信道的數學模型
6.1.3信道容量的定義
6.2單符號離散信道及其容量
6.2.1離散無噪信道的容量
6.2.2一般離散信道的容量
6.2.3離散對稱信道的容量
6.3級聯信道及其容量
6.4多維矢量信道及其容量
6.4.1多維矢量信道輸入與輸出的性質
6.4.2離散無記憶擴展信道及其容量
6.4.3並聯信道及其容量
6.4.4和信道及其容量
6.5信道容量的疊代算法
本章小結
思考題
習題
第7章 有噪信道編碼
7.1 概述
7.1.1 信道編碼的基本概念
7.1.2 判決與解碼規則
7.1.3 解碼錯誤機率
7.2 **佳判決與解碼準則
7.2.1 **大後驗機率準則
7.2.2 **大似然準則
7.3 信道編碼與**佳解碼
7.3.2 序列**大似然解碼
7.3.3 幾種簡單的分組碼
7.4 費諾(Fano)不等式
7.5 有噪信道編碼定理
7.5.1 聯合典型序列
7.5.2 有噪信道編碼定理
7.5.3 無失真信源信道編碼定理
7.6 糾錯編碼技術簡介
7.6.1 線性分組碼的編解碼
7.6.2 幾種重要的分組碼
7.6.3 卷積碼簡介
本章小結
思考題
習題
第8章 波形信道
8.1 離散時間連續信道
8.1.1 離散時間連續信道模型
8.1.2 平穩無記憶連續信道
8.1.3 多維矢量連續信道的性質
8.1.4 離散時間連續信道的容量
8.2 加性噪聲信道與容量
8.2.1 加性噪聲信道的容量
8.2.2 加性高斯噪聲信道的容量
8.2.3 一般加性噪聲信道容量界
8.2.4 並聯加性高斯噪聲信道的容量
8.3 AWGN信道的容量
8.3.1 加性高斯噪聲波形信道
8.3.2 波形信道的互信息與容量
8.3.3 AWGN信道的容量
8.3.4 高斯噪聲信道編碼定理
8.3.5 功率利用率和頻譜利用率的關係
8.4 有色高斯噪聲信道
8.4.1 有色高斯噪聲信道容量
8.4.2 多頻段AWGN信道容量
*8.5 數字調製系統的信道容量
本章小結
思考題
習題
9.1 概 述
9.1.1 系統模型
9.1.2 失真測度
9.1.3 率失真R(D)函式和失真率函式
9.2 限失真信源編碼定理
9.2.1 碼率的壓縮
9.2.2 限失真信源編碼定理
9.2.3 限失真信源信道編碼定理
9.3 離散R(D)函式的性質與計算
9.3.1離散R(D)函式的性質
9.3.2 離散R(D)函式的計算
9.4 連續R(D)函式的性質與計算
9.4.1 連續R(D)函式的性質
9.4.2 連續R(D)函式的計算
9.4.3 差值失真測度下的R(D)函式
9.5 高斯信源的R(D)函式
9.6.1 無記憶高斯信源的R(D)函式
9.6.2 獨立並聯高斯信源的R(D)函式
9.6 一般連續信源的R(D)函式
*9.7 有損數據壓縮技術簡介
9.7.1 量化
9.7.2 預測編碼
9.7.3 子帶編碼
9.7.4 變換編碼
本章小結
思考題
習題
第 10章 有約束信道及其編碼
10.1 標號圖的性質
10.1.1 標號圖的基本概念
10.1.2 標號圖的變換
10.2 有約束信道容量
10.2.1 有約束信道容量的定義
10.2.2 等時長符號有約束信道的容量
10.2.3 不等時長符號無約束信道的容量
10.2.4 不等時長符號有約束信道的容量
10.3 有約束序列的性質
10.3.1 信道對傳輸序列的約束
10.3.2 遊程長度受限序列(RLL)
10.3.3 部分回響**大似然(PRML)序列
10.3.4 直流平衡序列
10.3.5 其它頻域受限序列
10.4 有約束信道編碼定理
10.4.1 編碼器的描述
10.4.2有約束信道編碼定理
10.4.3有限狀態編碼定理
10.4.4 編碼器性能指標
*10.5 有約束序列編碼與套用
10.5.1 塊編碼器
10.5.2 實用直流平衡序列
10.5.3 常用有約束序列編碼及套用
本章小結
思考題
習題
第 11章 網路資訊理論初步
11.1 概述
11.2 多址接入信道
11.2.1 二址接入信道的容量
11.2.2 多址接入信道的容量
11.2.3 不同多址方式下的接入信道容量
11.3 廣播信道
11.3.1 概述
11.3.2 退化廣播信道的容量區
11.4 中繼信道
11.4.1 概述
11.4.2 退化中繼信道的容量
11.5 分布信源編碼
11.5.1 無損分布信源編碼
11.5.2 具有邊信息的有損分布信源編碼
11.5.3 分布信源編碼的套用
本章小結
思考題
習題
*第 12章 信息理論方法及其套用
12.1 信源熵的估計
12.1.1 離散信源序列熵的估計
12.1.2 連續信源熵的估計
12.2 **大熵原理
12.2.1 **大熵原理的描述
12.2.2 熵集中定理
12.2.3 幾種重要的**大熵分布
12.3 **小交叉熵原理
12.3.1 **小交叉熵原理
12.3.2交叉熵的性質
12.3.3**小交叉熵推斷的性質
12.3.4交叉熵法
12.4 信息理論方法的套用
12.4.1 資訊理論在分子生物學中的套用
12.4.2 **大熵譜估計和**小交叉熵譜估計
12.4.3 **大熵建模及其在自然語言處理中套用
12.4.4**大熵原理在經濟學中的套用
12.4.5 信息理論方法套用展望
本章小結
思考題
習題
參考文獻

相關詞條

熱門詞條

聯絡我們