非常返狀態(non-recurrent state)亦稱瞬時狀態,不是常返狀態的狀態。換句話說,馬爾可夫鏈的狀態i稱為非常返的,如果鏈從狀態i出發,它將以正的機率不再返回i,這又等價於說不管鏈從哪一個狀態出發,以機率1它最多只能經過狀態i有限多次。
基本介紹
- 中文名:非常返狀態
- 外文名:non-recurrent state
- 學科:數學
- 適用場合:馬爾地夫鏈
- 別稱:瞬時狀態
- 相關名詞:常返狀態
簡介,狀態類型的判斷,定理,定理1,定理2,定理3,舉例,
簡介
記
,稱為馬氏鏈在0時從狀態i出發,永遠不能轉移到
狀態j的機率。
![](/img/6/31a/88883041e22aaced4ded9bf7ceb4.jpg)
![](/img/a/ed4/5f5211154fbc956392b3706ea611.jpg)
又記
,稱
為馬氏鏈在0時從狀態i出發,經有限步轉移後終究到達狀態j的機率(也稱遲早機率)。
![](/img/b/b1f/2a1220fad468efe178557120dfd0.jpg)
![](/img/2/b0c/725abc9923efe32ccbb7c6fff9f5.jpg)
![](/img/2/b0c/725abc9923efe32ccbb7c6fff9f5.jpg)
![](/img/2/b0c/725abc9923efe32ccbb7c6fff9f5.jpg)
設狀態![](/img/f/1c5/7d5ce5926a0fddc6023ba2ab6837.jpg)
![](/img/f/1c5/7d5ce5926a0fddc6023ba2ab6837.jpg)
(1)若
則稱狀態i是常返的(返回的);
![](/img/0/2a9/1be650c2be2e1f17d55fde73c41b.jpg)
(2)若
則稱狀態i是非常返的(滑過狀態)。
![](/img/b/548/8a3dd363d376c3f2b56a3d747ec6.jpg)
當i為常返態時,也就有
![](/img/3/c35/8beb618b93d354c48acbb0416907.jpg)
即
構成機率分布,則相應的數學期望為
![](/img/1/f20/09acf5c0bdbac38e1dd425fcd4e3.jpg)
![](/img/8/587/7e071d91c67f0ccad80c58c9ebb4.jpg)
則
表示馬氏鏈從狀態i出發首次再返回狀態i的平均時間(或平均轉移步數)。
![](/img/2/336/64cc19f3fc9494dc1e7181af385e.jpg)
利用量
可以進一步定義狀態類型:
![](/img/2/336/64cc19f3fc9494dc1e7181af385e.jpg)
(1)若
則稱狀態i為正常返狀態;
![](/img/d/462/33a050d989081079df9e8bc0574e.jpg)
(2)若
則稱狀態i為零常返狀態(消極常返狀態)。
![](/img/8/d5b/e92f8633a1366cf3100e26089442.jpg)
狀態類型的判斷
![](/img/3/eba/f2912dceb2e1070578eb212e4551.jpg)
![](/img/3/cf2/fcb2c7f2969a781912f400d67ed6.jpg)
![](/img/a/744/86d934d36ce4a51432fd0741df6d.jpg)
定理
定理1
設狀態
,則
![](/img/f/1c5/7d5ce5926a0fddc6023ba2ab6837.jpg)
(1)狀態i是常返的(
)充要條件為![](/img/6/a88/ed1318b9b79bb1f0a8c54d4d999a.jpg)
![](/img/0/2a9/1be650c2be2e1f17d55fde73c41b.jpg)
![](/img/6/a88/ed1318b9b79bb1f0a8c54d4d999a.jpg)
(2)狀態i是非常返的(
)充要條件為
![](/img/b/548/8a3dd363d376c3f2b56a3d747ec6.jpg)
![](/img/b/5fb/c3c73c938cc96b417895a88ff5fb.jpg)
定理2
齊次馬氏鏈的狀態空間S可唯一地分解為有限或可列無限多個互不相交的狀態子集的並。即
![](/img/0/ba0/ff9700df74b4759c33374549e20e.jpg)
其中D是所有非常返狀態構成的狀態子集。
![](/img/7/eaf/ed0d26b4d662b66af02d27ba2d69.jpg)
每個狀態子集中的狀態有著相同的狀態類型:即 或者均為零常返,或者均為正常返非周期,或者均為正常返周期且周期相同。
定理3
設X是狀態有限的齊次馬氏鏈, 則
(1) X的非常返狀態集D不可能是閉集;
(2) X不存在零常返狀態;
(3) 若X是不可約的, 則X所有的狀態都是正常返的。
舉例
設狀態空間S={1, 2, 3, 4}的馬爾可夫鏈,它的一步轉移機率矩陣為
![非常返狀態 非常返狀態](/img/b/428/nBnauEjMihTMxIjYyYmYmNDN4UDOyQDZ4gjN1EmM1MDM1kTZ3gTYzMjZiNzLtVGdp9yYpB3LltWahJ2Lt92YuUHZpFmYuMmczdWbp9yL6MHc0RHa.jpg)
試分析馬氏鏈的狀態的常返與否。
解:馬氏鏈的狀態轉移圖為
![非常返狀態 非常返狀態](/img/a/1d6/nBnauYDZkFTN1EGMxMTO3MzY0EmNyIzMyYGZ1YGNzADN2IWYkVmYmJmZhRzLtVGdp9yYpB3LltWahJ2Lt92YuUHZpFmYuMmczdWbp9yL6MHc0RHa.jpg)
因為![](/img/b/df0/6ad743dab91011d46f378206212c.jpg)
![](/img/b/df0/6ad743dab91011d46f378206212c.jpg)
所以
,所以狀態常返。
![](/img/8/f42/7ef03e874ecf247d6b1a02db774b.jpg)
又
,故狀態1正常返。
![](/img/1/1c3/1eb6665f33938b75795baeb79375.jpg)
![非常返狀態 非常返狀態](/img/5/404/nBnauIWYyUTOwcjNlNjZ3cTMyMmN5EjN2kjNzE2Y1kjZxUjMlRDMzEGM2kzLtVGdp9yYpB3LltWahJ2Lt92YuUHZpFmYuMmczdWbp9yL6MHc0RHa.jpg)
因為![](/img/5/d11/5b8ba3a2f8b664f92e84c293c654.jpg)
![](/img/5/d11/5b8ba3a2f8b664f92e84c293c654.jpg)
所以
,故狀態3非常返。
![](/img/7/c1e/6297fd09877b6fd6c195d9b7c13b.jpg)
類似可以討論狀態2和4。
因此可用下面的圖來表示各狀態的關係:
![非常返狀態 非常返狀態](/img/c/b52/nBnaukjN3U2M3UmMkVWY0QjYxQWY2EjZ0gjZilTM4YWM1AjYiFzMiJTM4MzLtVGdp9yYpB3LltWahJ2Lt92YuUHZpFmYuMmczdWbp9yL6MHc0RHa.jpg)