基本介紹
- 中文名：香農定律
- 作者：香農
- 領域：資訊理論
概況,傳播學,其他含義,意義,運用,內在聯繫,
概況
在高斯白噪聲背景下的連續信道的容量
=
（b/s）。
其中：B為信道頻寬（Hz）；S為信號功率（W）；n0為噪聲功率譜密度（W/Hz）；N為噪聲功率（W）。
由香農公式得到的重要結論：
（1）信道容量受三要素B、S、no的限制。
（2）提高信噪比S/N可增大信道容量。
（3）若
，則
，表明無噪聲信道的容量為無窮大。
（4）若
，則
，表明當信號功率不受限制時，信道容量為無窮大。
（5）C隨著B的適當增大而增大，但不能無限制的增大，即當
時，
。
（6）C一定時，B與S/N可以互換。
（7）若信源的信息速率
，則理論上可實現無誤差傳輸。
傳播學
香農定理規定了有隨機熱噪聲信道的最大傳輸速率與信道頻寬、信號噪聲功率比之間的關係。從自然科學的角度看，香農定理用數學公式計量了信息（比特）的流量，具備典型的工程學意義。由於香農的科學家身份和研究的對象區域，香農定理與相關理論關心的不是信息表達的含意，而是信息的有效傳輸和接收。
香農在論文中區別了信息傳播的三個層次：A層：傳播符號如何能夠被準確地發射（技術問題）；B層：被發射的符號如何能夠準確地傳遞意圖中的意義（語義學問題）；C層：被接受的意義如何有效地以意圖中的方式影響行為（效果或行為問題）。有趣的是：香農反覆聲明他所創立的信息理論只與A層打交道，並告誡學界不要過分廣泛地把這種理論用於所有類型的信息傳播理論的研究上。因為人與人之間的關係或人與社會之間的關係，遠比人與機器之間的關係或機器與機器之間的關係更為複雜。香農不願為之交道的B層和C層似乎更靠近以社會人文為基礎的傳播學理論。
後香農時代的英國傳播學者斯圖亞特·霍爾在1973年發表的《電視話語的編碼和解碼》一文中，對電視話語傳播的狀態和效果進行了解讀。電視話語意義在編碼過程中，電視話語的生產和流通分為三個階段：第一階段，媒介工作者對原材料進行加工，即進行電視話語“意義”的加工或創造，這個階段被霍爾稱為“編碼”階段。媒介工作者是受過專門訓練和經過專項學習的，他在進行編碼工作時，起作用的是他的世界觀、知識結構和專項技術的水準。霍爾認為，原材料中蘊含著文化代碼，這種代碼是自然的、中立的、約定俗成的它早已融入人們生活的社會結構之中，而編碼的過程就是媒介工作者在一定的文化視角下釋放代碼的意義。
第二個階段叫“成品”階段。電視作品完成後，代碼在編碼的過程中被注入了“意義”，這種意義構成了電視話語的主體，吸引客群接受電視話語的中心由代碼（原材料）轉移到了編碼（解讀及產生的“意義”）上面。這裡面加入了人的因素。原材料（某種事物，某種生活現象或某種文化思想）散發出的一種存在價值是自然的、中立的，甚至是約定俗成的，但企圖解讀並詮釋其中的“意義”時，就會產生各種視角和立場，但這些與接受電視話語意義的客群無關。因此，電視的“成品”是“多義”的，而不是“多”的。當電視圖像話語將三維的世俗世界事物轉換成二維平面的電子信息之後，它自然就不可能成為它所指的對象或概念，它只是圖像符號。所以，電視話語只不過是對原材料的解讀，這種解讀不一定與事實相符，客群完全可以從自己的視角、立場和認知水平來作為另行解讀的基礎。
第三個階段稱為“解碼”階段。解碼指電視客群對電視作品中釋放出的話語意義的接受程度。接受則生成對電視作品的“消費”，產生認同感；不接受則沒完成對電視作品的“消費”，產生對立感或一定程度的爭議。從另一個角度觀察，假設被發射的符號準確地傳遞了編碼者意圖中的意義，但該意義已經加入了編碼者主觀的判斷和觀點，即使機器和機器所發射的符號在技術上無懈可擊，依然存在編碼者意圖中的意義，進入大眾傳播領域後，被拒絕和修正的可能。在解碼過程中，即反映傳播效果或行為的過程中，傳播符號既然進入大眾人群，傳者與受者的互動便開始了。互動涉及到社會的各色人群，這些人群之間的關係、背景、素養等是需要分層的，分層決定了對符號傳播的話語意義不同的認識立場。由此，最小化的對立碼成了符號意義在傳播運動中是否被消費的標準。
可以認為的是：從香農定理到編碼與解碼理論，已經建立起了現代傳播學理論的框架和模型，並基本解決了信息在傳播過程中的定量和定性問題。但時過境遷，數位技術背景下顯現出來的信息傳播問題，已經在信息傳播的過程中極大地突破了現有傳播學理論的邊界，傳播學理論急切地需要新的內容。然而，香農定理對於信道頻寬的信息路徑、對於信息流量的控制計量依然散發揮著物理技術的悠長魅力。
其他含義
可變長無失真信源編碼定理
1948年,美國工程師香農在貝爾實驗室雜誌上發表了長文《通訊的數學原理》。他用機率測度和數理統計的方法系統地討論了通信的基本問題 ,得出了幾個重要而帶有普遍意義的結論 ,並由此奠定了現代資訊理論的基礎。香農編碼理論揭示了在通信系統中 ,採用適當的編碼後能夠實現高效率和高可靠地傳輸信息的規律 ,並給出了相應的信源編碼定理和信道編碼定理。 從數學觀點看 ,這些定理是最優編碼的存在定理。 它們給出了編碼的性能極限 ,在理論上闡明了通信系統中各種因素的相互關係 ,為尋找最佳通信系統提供了重要的理論依據。
香農第一編碼定理 (變長無失真信源編碼定理 )是最優編碼的存在性定理 ,該定理指出了要做到無失真信源編碼 ,每個信源符號平均所需要的最少的碼元數 ,同時 ,該定理指出了最優碼的存在性。
有噪信道編碼定理
信道編碼定理 (一般指信道正編碼定理 )是資訊理論中的一個最重要的定理之一。它給出了信道無差錯傳輸時碼率的上界。
定理(信道編碼的正編碼定理)如果 C是一個離散無記憶信道 的信道容量 ,那么 C必是該離散無記憶信道序列的一個可達速率。
保真度準則下的信源編碼定理
而保真度準則下的信源編碼定理，或稱有損信源編碼定理，只要碼長足夠長，總可以找到一種信源編碼，使編碼後的信息傳輸率略大於率失真函式，而碼的平均失真度不大於給定的允許失真度。
無線通信的實現勢必要解決兩大問題,其一是對信源進行高效的壓縮以充分利用有限的信道頻寬,即信源編碼問題；其二是對壓縮後的信息進行錯誤保護以抵禦信道或網路所帶來的誤碼或數據丟失,即信道編碼問題。信源編碼和信道編碼所要解決的問題在一定意義上是相互矛盾的：一方面,信源編碼壓縮率的提高將導致壓縮後的碼流抗誤碼能力的降低,另一方面,提高碼流的抗誤碼性能又要以犧牲壓縮效率為代價。
意義
香農在二十世紀四十年代初奠定了通信的數字理論基礎。同時香農三大定律是資訊理論的基礎，雖然沒有提出具體的編碼實現方法，但是為通信信息的研究指明了方向。他的“信道容量定理”指出，可以找到這樣一種技術，當數據傳輸速率不大於某個最大傳輸的速率時，通過它可以以任意小的錯誤機率傳輸信號。同時香農也給出了有噪聲信道的最大傳輸速率與寬頻的關係。
運用
隨著數字通信、計算機網路的飛速發展和網際網路技術的普遍套用,多媒體通信已經成為一種不可避免的趨勢。但是視頻信息具有確定性、直觀性、高效性等優越性,於是視頻傳輸在通信系統中的優勢越來越明顯, 占據了重要的地位,然而傳送包含視頻信息的信號需要較高的通信網路。因此,在非常有限的通信網路條件下,最大限度地做到通信系統接收的聯合最佳化。
而信道編碼定理，從理論上解決理想編碼器、解碼器存在性問題，也就是解決信道能傳送的最大信息率的可能性和超過這個最大值時的傳輸問題。並且信道編碼理論證明信道由離散信道發展到連續信道，從無記憶信道到有記憶信道，從單用戶信道到多用戶信道，從證明差錯機率可接近於零到以指數規律逼近於零，正在不斷完善，但尚未達到編碼定理所啟示的限度，尤其是關於有噪聲多用戶信道，更顯得不足，於是通信系統工程師在香農的信源編碼和信道編碼分離理論所提出的達到最優編碼性能的基礎之上開始研究信源 / 信道 聯合 編碼（Joint Source Channel Coding，JSCC）, 它可以綜合考慮信源和信道兩方面的條件，從而實現信息傳輸性能的整體最佳化。
信源 / 信道聯合編碼通過最佳化分配信源的不同部分之間與信源和信道之間的比特率，使得通信系統網路受限時，信息發出端到信息接收端的傳輸失真達到最小。例如在通信系統接收聯合最佳化運用了一種了一種基於低密度奇偶校驗碼的 SVC 不等差錯保護的信源 / 信道聯合編碼方案，就是以一個圖像組為基本單位，首先通過計算各層率失真函式得到各幀的 D-R 包絡曲線，然後藉助於聯合碼率分配算法採用二分搜尋不斷調整拉格朗日乘子最佳化分配有限比特給每個質量層，使得在滿足碼率約束的條件下，信號發出端到與信息接收端失真率最小，從而最佳化通信系統的整體性能。
內在聯繫
香農三大定理是資訊理論的基礎理論，是存在性定理，雖然並沒有提供具體的編碼實現方法，但為通信信息的研究指明了方向。可變長無失真信源編碼定理，採用無失真最佳信源編碼可使得用於每個信源符號的編碼位數儘可能地小，但它的極限是原始信源的熵值，但是超過了這一極限就不可能實現無失真的解碼。有噪信道編碼定理，是當信道的信息傳輸率不超過信道容量時，採用合適的信道編碼方法，可以實現任意高的傳輸可靠性，但是若信息傳輸率超過了信道容量，就不可能實現可靠的傳輸。而保真度準則下的信源編碼定理，或稱有損信源編碼定理，只要碼長足夠長，總可以找到一種信源編碼，使編碼後的信息傳輸率略大於率失真函式，而碼的平均失真度不大於給定的允許失真度。
香農三大定律結合起來就構成了現代資訊理論的基礎理論，三大理論之間相輔相成，相互聯繫，為現代通信數字理論的發展做出了巨大的貢獻。
