最大熵準則（maximum entropy criterion）是1993年公布的數學名詞。
基本介紹
- 中文名：最大熵準則
- 外文名：maximum entropy criterion
- 所屬學科：數學
- 公布時間：1993年
公布時間,出處,
公布時間
1993年，經全國科學技術名詞審定委員會審定發布。
出處
《數學名詞》第一版。
最大熵準則
相關詞條
- 最大熵準則
最大熵準則（maximum entropy criterion）是1993年公布的數學名詞。公布時間1993年，經全國科學技術名詞審定委員會審定發布。出處《數學名詞》第一版。1...
- 最大熵原理
最大熵原理是一種選擇隨機變數統計特性最符合客觀情況的準則，也稱為最大信息原理。隨機量的機率分布是很難測定的，一般只能測得其各種均值（如數學期望、方差等）或已知某些限定條件下的值（如峰值、取值個數等），符合測得這些值的分布可有多種、以至無窮多種，通常，其中有一種分布的熵最大。選用這種具有最大...
- 最大熵譜估計
最大熵譜估計是根據信號在已知有限延遲點上的自相關函式值保持不變，而按最大熵準則將未知延遲點的自相關函式進行外推後而獲其功率譜密度估計的方法。這種方法是一種可獲得高解析度的非線性譜估計方法，特別適用於短數據序列的譜估計。熵在資訊理論中是反映信息度量的一個量。某隨機事件的隨機性越大，即不確定性越...
- 最大熵譜分析
這是一種自相關函式外推的方法，在分析過程中，沒有固定的窗函式。在每一步外推過程中，使估計的相關函式包含過程的信息最多，即要求在過程的熵達到最大的條件，確定未知的自相關函式值，藉以達到譜估計的逼真和穩定程度最好的目的。也就是採用譜熵為最大的準則來估計功率譜。比較 最大熵譜（MEM譜）不僅沒有...
- 基於建築熵分析的最佳化管理決策理論與套用研究
桁架、框架結構最佳化設計的最大熵準則法,開發了基於對系統建築熵分析的工程建設立項和發展戰略管理、建築企業經濟技術評價、經營管理最佳化決策的最大熵準則法,對建築市場預測與管理、工程質量管理與控制等工程建設例行活動的最佳化決策建立了多目標決策模型並設計了求解的最大建築熵疊代法。
- 譜熵
而極大熵譜估計對已知的最大遲延以外的自相關函式進行合理的外推，因而能提高所求功率譜的分辨力，特別是在已知數據量較少時，其效果比傳統方法更優。極大熵譜估計是以極大熵為準則的譜估計，設f(ω)是平穩序列xₜ(t=0，±1，…)的正規化譜(密度函式)，稱 為平穩序列xₜ的譜熵。假定xₜ的前m+1個...
- 圖像熵
在資訊理論中，熵（英語：entropy）是接收的每條訊息中包含的信息的平均量，又被稱為信息熵、信源熵、平均自信息量。這裡，“訊息”代表來自分布或數據流中的事件、樣本或特徵。（熵最好理解為不確定性的量度而不是確定性的量度，因為越隨機的信源的熵越大。）來自信源的另一個特徵是樣本的機率分布。這裡的想法是...
- 物理學中的數學方法——從熱力學熵到香農熵
重視對入門基本概念進行比教科書更細緻或深入的剖析，如機率，機率空間，條件機率，熱力學熵，香農熵等等；也在有限的篇幅內以精煉的語言，揭示學科中重要基礎概念形成的邏輯鏈條，增進對學科概貌的認識。本書參考了較多相關的專業著作或新近的大學教材，以及科普名著，作者最大的期望是在專業性與科普性之間保持某種平衡...
- 系統參數辨識的信息準則及算法(2011年清華大學出版社出版的圖書)_百度...
作為新型準則函式，信息準則為系統辨識開闢了嶄新途徑，成為信號處理與系統模型參數辨識相關領域的重要研究方向。《系統參數辨識的信息準則及算法》系統地介紹系統參數辨識的各種信息準則及相應辨識算法、算法特性分析，包括最小誤差熵準則、最小信息距離準則、最大（小）互信息準則等，介紹了其基本概念和性質、實現算法及...
- 分割的熵
分割的熵 分割的熵（entropy of the partition）是1993年公布的數學名詞，出自《數學名詞》第一版。公布時間 1993年，經全國科學技術名詞審定委員會審定發布。出處 《數學名詞》第一版。
- 統計機器翻譯
早期，區分性訓練被置於最大熵準則下，即：這一準則簡單快速且由於最佳化目標是凸的，收斂速度快。然而，一個大的問題是，“信息熵”本身和翻譯質量並無聯繫，最佳化信息熵以期獲得較好的翻譯結果在邏輯上較難說明。藉助客觀評價準則如BLEU，希望直接針對這些客觀準則進行最佳化能夠提升翻譯性能。由此而產生最小化錯誤率訓練...
- 機器學習:從基礎理論到典型算法(原書第2版)
2 條件最大熵準則224 13.3 條件最大熵模型簡介225 13.4 對偶問題226 13.5 性質227 13.5.1 最佳化問題227 13.5.2 特徵向量228 13.5.3 預測228 13.6 泛化界228 13.7 邏輯回歸231 13.7.1 最佳化問題231 13.7.2 邏輯模型231 13.8 L2-正則232 13.9 對偶定理的證明23 ...
- 套用資訊理論基礎
7.2最大熵原理的合理性258 *7.3最小鑑別信息原理與最大熵原理的公理化推導261 7.3.1最小鑑別信息原理的推導261 7.3.2最大熵原理的推導269 7.4最小失真意義下的最大熵原理與最小鑑別信息原理269 7.4.1方向正交與投影失真270 7.4.2投影失真的一般形式272 7.4.3最小失真準則與熵準則274 7.5最大熵...
- 水文科學中的風險率與不確定性
4.1熵極大識別準則及其套用 4.1.1最大熵原理 4.1.2頻率分析 4.1.3機率密度函式估計 4.1.4機率分布參數估計 4.1.5計算實例 4.2 Bayes推斷原理及其套用 4.2.1基本原理 4.2.2混合Bayes分布 4.2.3線性模型的Bayes分布 4.2.4 Bayes方法在期望風險估計中的套用 4.2.5套用實例 4.3非參數統計方法 4...
- 機器翻譯(計算語言學的分支)
Franz-Josef Och提出的基於最大熵模型的區分性訓練方法使統計機器翻譯的性能極大提高，在此後數年，該方法的性能遠遠領先於其他方法。一年後Och又修改最大熵方法的最佳化準則，直接針對客觀評價標準進行最佳化，從而誕生了廣泛採用的最小錯誤訓練方法(Minimum Error Rate Training)。另一件促進統計機器翻譯進一步發展的重要...
- 支持向量機魯棒性模型與算法研究
第5章 基於Laplace損失函式的魯棒最小二乘支持向量回歸機 5．1 基於Laplace損失函式的魯棒最小二乘支持向量回歸機 5．2 算法實現 5．3 數值實驗 5．3．1 模擬數據實驗 5．3．2 真實數據實驗 5．4 本章小結 第6章 基於最大相關熵準則的魯棒中心支持向量回歸機 6．1 中心支持向量回歸機 6．2 最大相關熵...
- 稀疏脈衝反演
2、【最小熵反褶積 】輸出為稀疏脈衝序列，最小熵反褶積本身含義並不十分嚴密，嚴格地說它僅是一種準則，使輸出具有簡單而稀疏的外形，對子波的相位沒有限制，因此有較強的適應性。最小熵準則只是一種較為合理的目標函式或約束，並不全面控制反褶積質量，其準則對強反射層非常敏感，如果不加約束，有可能使多個...
- 劉春輝(北京航空航天大學無人系統研究院副研究員,電子信息工程學院碩 ...
[7] .劉春輝*，齊越，丁文銳，張文秋. 最大相關熵準則自適應濾波器的分數階長算法[J].北京航空航天大學學報, 2016, 42 (2):413-420（EI期刊）,2016 所獲榮譽 國防科技工業十大創新團隊(2016年)社會任職 1.中國航空學會會員 2.中國計算機學會會員 3.智慧型無人飛行系統先進技術工業與信息化部重點實驗室秘書 ...
- 資訊理論理論基礎
10.4.4廣播信道 10.4.5反饋信道 習題10 第11章資訊理論方法在信號處理中的套用 11.1最大熵譜估計 11.1.1最大熵譜估計及伯格遞推算法 11.1.2最大熵譜估計 11.2最小誤差熵估計與卡爾曼濾波 11.2.1最小均方誤差準則與最小誤差熵準則 11.2.2最小誤差熵準則推導卡爾曼濾波方程 習題11 參考文獻 ...
- 設計通行能力
根據熵關聯度準則, 確定灰關聯序由大到小依次為:注視點分布、視角區域分布、平均注視時間、平均眼瞼張開距離。注視點分布、視角區域分布、平均注視時間是駕駛員注意力的線索, 能夠很好地反映駕駛員與自身所處駕駛環境的互動關係, 以及反映駕駛員的內在生理、心理狀態。考慮到平均眼瞼張開距離的熵關聯度最小, 為避免過...
