仙農第一定理

仙農第一定理(Shannon first theorem)信源編碼理論的基本定理之一即變長無失真信源的編碼定理.離散無記憶信源S的N次擴展信源}' N =}y}uz}"..}uqN}，其嫡為H (S"' )，並有碼元集A={am az,...}a,}.對信源SN進行編碼，總可以找到一種編碼方法，構成惟一可解碼，使信源S中每個信源符號所需的碼字平均長度滿足:

而a是u所對應的碼字長度.工耐N的含義是:為了得到這個平均值，不是對單個信源符號進行編碼，而是對N個信源符號序列u進行編碼.