仙農第三定理

仙農第三定理(Shannon third theorem)保真度準則下的信源編碼定理。

設R(D)為一離散無記憶信源的信息率失真函式，並且具有有限的失真度。對於任意的D)O,e}O，以及任意足夠長的碼長k,則一定存在一種信源編碼C，其碼字個數為 M<e而編碼後的平均失真度為 d(C)=D+E,定理表示:對於任何失真度Dj，只要碼長k足夠長，總可以找到一種編碼C，使編碼後平均每個信源符號的信息傳輸速率為D。