多用戶信源編碼:是指研究多個相關信源的編碼的主要目的是壓縮信息率。若兩個離散信源各發出符號U1和U2,它們的信息熵分別是H(U1)和H(U2),條件熵(以U1為條件)是H(U2|U1)。當他們之間相關時,有H(U2│U1)<H(U2)。單一信源編碼定理證明,要分別傳送這兩個信源符號時,所需的信息率R1和R2必須分別大於 H(U1)和H(U2)。但在解碼器已確知U1的情況下,再從U2中提取的信息應只有H(U2│U1)而不是H(U2),在這種情況下傳送U2的信息率R2隻須大於H(U2│U1)即可。
基本介紹
- 中文名:多用戶信源編碼
- 基本簡介:由容量大於H(U1)的信道傳送
- 詳細解釋:利用時分內插編碼原理可以證明
- 擴展閱讀:是一種尚在發展的理論
基本簡介,原理過程,詳細解釋,擴展閱讀,
基本簡介
當U1和U2兩個信源不在同一地方,而U1的樣已為信宿所確知,但對U2編碼時卻不確知U1當時的樣,那么只要信息率大於H(U2│U1),就能把U2編碼後傳送給信宿,而使後者能正確譯出U2。這就是具有邊信息的多用戶信源編碼定理。信宿已確知的U1就稱為對U2解碼的邊信息。這可由容量大於H(U1)的信道傳送。
原理過程
要證明關於離散無記憶信源的這一定理,可以用典型序列的概念(見漸近等分性)。當信源符號數目 N足夠大時,U1組成的典型序列有個,對應每個U1序列,U2組成的典型序列有個,這些序列可排成A行B列的矩陣。對U2編碼時只須把這個序列在矩陣的列號編成碼,於是所需的信息率就是
在解碼時,因已知U1序列的樣,即已知在哪一行,就可根據列號從矩陣中找出被傳送的那一個U2序列。因此只要U2是典型序列,便可以無錯誤地解碼。已知 N→∞時,非典型序列出現的機率接近於零,因此有邊信息時解碼的差錯機率也接近於零。
再推廣一步,可研究圖中a的系統。兩個相關信源 U1和U2分別由兩個編碼器編碼後用兩條信道傳送,在接收端同時收到兩條信道的輸出,為了正確譯出1和2,對兩條信道須傳送的信息率R1和R2的要求是R1≥H(U1|U2)
R2≥H(U2|U1)
R1+R2≥H(U1U2)
詳細解釋
這三個不等式所對應的區域是圖中 b所示的陰影部分。利用時分內插編碼原理可以證明,只要(R1,R2)是在圖中的陰影部分內,且符號長度N足夠長,總存在一種編碼方法,使解碼器能正確地譯出U1和U2。因此兩條信道的容量是允許調配的:R1大時,R2可小一些,反之亦然。
另一類多用戶信源問題是利用公用信道和私用信道問題。從兩個相關信源U1和U2引出另一隨機量W,使在W 已知條件下U1和U2相互獨立。此時下列條件機率之間的關係成立P(U1,U2|W )=P1(U1|W )P2(U2|W )
滿足上式的所有W組成一個集E。變更W,使U1和U2作為一組對W 的互信息I(U1U2;W)為最小,此最小值稱為U1和U2之間的共信息I0,即
當利用公用信道傳送W 時,傳送U1和U2的私用信道的信息率R1和R2分別只須大於H(U1│W )和H(U2│W )。這種系統的特點是利用私用信道(R1)傳來的信息和公用信道傳來的W 就能正確譯出U1,但很難譯出U2。因為在W確知條件下,U1和U2是相互獨立的,也就是譯出U1後對U2的解譯毫無幫助,這可用於某些保密系統中。另一方面,利用公用信道中的邊信息可降低對私用信道的要求。
擴展閱讀
多用戶信源編碼是一種尚在發展的理論。對於允許失真的信源問題,也有一些研究結果,其他如有記憶信源以及理論的套用前景等問題,均尚在探索中。