DiscreteMarkovProcess

DiscreteMarkovProcess[i0,m]

遷移行列 m,初期状態 i0の離散時間有限状態のマルコフ(Markov)過程を表す.

DiscreteMarkovProcess[p0,m]

初期状態確率ベクトルが p0のマルコフ過程を表す.

DiscreteMarkovProcess[,g]

グラフ g からの遷移行列を持つマルコフ過程を表す.

詳細

  • DiscreteMarkovProcessは離散時間マルコフ連鎖としても知られている.
  • DiscreteMarkovProcessは離散時間・離散状態のランダム過程である.
  • DiscreteMarkovProcessの状態は1から までの整数である.ただし, は遷移行列 m の長さである.
  • 遷移行列 m は条件付きの遷移確率 mi,jProbability[x[k+1]jx[k]i]を指定する.ただし,x[k]は時間 k における過程の状態である. »
  • 離散マルコフ過程はグラフ上のランダムウォークと見ることができる.ただし,状態 i から状態 j への遷移確率は mi,jで指定される.
  • EstimatedProcess[data,DiscreteMarkovProcess[n]]は,n 個の状態を持つ過程を推定すべきことを示している.
  • グラフ g の場合の遷移行列は,各接続頂点の遷移確率が等しくなるように構築される.
  • DiscreteMarkovProcessでは,m は和が1になる非負の要素と行を持つ × 行列,i0 は1から までの整数,p0 は和が1になる非負の要素の長さ のベクトルである.
  • DiscreteMarkovProcessは,MarkovProcessPropertiesPDFProbabilityRandomFunction等の関数で使うことができる.

例題

すべて開くすべて閉じる

  (2)

離散マルコフ過程を定義する:

そのシミュレーション:

時間 における状態の確率密度関数を求める:

過程が状態2になる時間の長期に渡る割合を求める:

スコープ  (14)

サンプルデータから過程の母数を推定する:

過程の特性:

状態1から始めて状態3に至る最初の移行時間の平均を求める:

定常分布を求める:

遷移確率をツールチップで与え,過程をグラフとして可視化する:

グラフ表現を離散マルコフ過程に変換し直す:

状態4から始めて,状態1への最終的な吸収の確率を求める:

離散マルコフ過程を定義する:

連結類を求める:

再帰類と遷移類を求める:

過程のシミュレーションを行う:

吸収状態を求める:

対象状態への到達についての条件付きで最初の移行時間の平均と分散を求める:

シミュレーションと比べる:

事象の確率を計算する:

複数の時間スライスに関わる確率を計算する:

次の過程について吸収が起ることを仮定する:

状態3に吸収される確率を計算する:

状態4に吸収される確率を計算する:

期待値を計算する:

モーメントと母関数:

グラフ表現で賭博者の破滅過程のシミュレーションを可視化する:

一般化と拡張  (2)

グラフを離散マルコフ過程に変換する:

類を別々の色を使ってハイライトし,離散マルコフ過程をグラフとして表す:

アプリケーション  (18)

ゲーム  (7)

繰り返しコインを投げ上げる過程を,表が出る確率が0.6で裏が出る過程が0.4の離散マルコフ過程を使ってモデル化する:

50回のコイントスのシミュレーションを行う:

表が出る確率が の不正なコインを 回はじく.連続して表が出続ける最高回数が指定の数 を超える確率を求める.これは,状態 回連続して表が出たことを表す離散マルコフ過程を使ってモデル化することができる.結果の,の遷移行列は以下で与えられる:

連続して表が出る回数のシミュレーションを行う.表が連続して10回出た場合は再び数え始めないこととする:

100回コインをはじいた場合に最低でも10回連続して表が出る確率:

ある賭博師が3つのチップから始めて,勝つ確率が0.4で,無一文になる前にチップ7つ勝つことを目標にして,各ステップで1チップの賭けを行う.ここで状態は,整数1から8で,賭博師の富に1足したものを表す:

過程のシミュレーションを行う:

賭博師がユニット持つ期待回数を求める:

上の結果をシミュレーションから決定された結果と比べる:

賭博師が目標を達成する,あるいは無一文になるまでの期待時間を求める:

賭博師が目標を達成する,あるいは無一文になるまでに訪問する状態の合計:

答をシミュレーションを使って確かめる:

勝つ確率を求める:

サイコロの6面すべてが出るまでに平均で何回サイコロを振らなければならないかを求める:

回振ってすべての面が見られる確率を求める:

公正なコインをはじいたときに,その結果が裏表表の順となるマルコフ過程:

公正なコインをはじいたときに,その結果が表表表の順となるマルコフ過程:

平均で,裏表表よりも表表表となるのに時間がかかる:

2人の選手間のテニスの試合で,サーブする人がポイントを得る確率が であると仮定する.可能な状態は全部で17である:

についてランダムウォークのグラフを可視化する:

としてサーブする人がゲームに勝つ確率を求める:

吸収までの平均時間,つまり,行われたポイント数を求める:

訪れられた状態の平均数を求める:

ジュースでスコアがタイになる平均回数を求める:

クラップスのゲームでは,2つのサイコロを投げてその出た目の数を合計する.第1投では,7か11が出ると勝ち,2か3か12が出ると負けで,それ以外の数が出た場合にはポイントとなり,サイコロが投げ続けられる.その後は,投げ手がポイントを出すと勝ちで,7が出ると負けである.状態は,開始,勝ち,負け,p4,p5,p6,p8,p9,p10のいずれかである.最初に戻ることは決してないが,勝ちと負けは吸収状態である.以下の分布は2つのサイコロを投げた場合を表す:

7か11が出ると,投げ手が第1投で勝ちである:

第1投で2か3か12が出ると投げ手の負けである:

第1投でその他の数が出ると,「ポイント」となり,投げ続ける:

ポイント状態から始めて負ける確率:

同じポイント状態に留まる確率:

遷移行列:

負ける確率の方が勝つ確率より大きい:

サイコロを投げる数の平均:

天候  (3)

単純な天候モデル:今日雨が降った場合,明日は確率0.7で雨が降る.今日雨が降らなければ,確率0.4で明日雨が降る.今日雨が降っているとした場合に,離散マルコフ過程を使ってこのモデルを表し,今日から4日後に雨が降る確率を求める.この天候の表現:

4日後に雨が降る確率:

過去2日間雨が降ったかどうかに基づいて天候のモデルを構築する.昨日と今日雨が降った場合は確率0.7で,今日は雨が降ったが昨日は雨が降らなかった場合は確率0.5で,昨日は雨が降ったが今日は降らなかった場合は確率0.4で,昨日も今日も雨が降らなかった場合は確率0.2で,明日雨が降るとする.積状態空間 を使う.ただし, は昨日雨が降ったかどうかを, は今日雨が降ったかどうかを示す:

残りのケースは起らない:

結果の遷移確率行列:

結果の離散マルコフ過程:

4日後に雨が降る確率:

雨が2日連続して降る長期確率を求める:

長期間のシミュレーションと比較する:

空港か市内のどちらかにタクシーがいる.市内から次に空港へ行く確率は1/4,市内の別の場所へ行く確率は3/4である.空港からは常に市内へ戻る.状態1が市内を,状態2が空港を表す離散マルコフ過程を使って,空港から始めてタクシーをモデル化する:

タクシー運行の典型的な連鎖のシミュレーションを行う:

定常分布を求める:

定常分布は,タクシーが営業時間のを市内で過ごすことを示している:

  (1)

個のボールが壷Aと壷Bに分布している.各段階で1個のボールを無作為に選び,もう一方の壷に移す.壷Aのボールの定常分布を求める.壷Aに入っているボールの個数は離散マルコフ過程でモデル化することができる.壷Aに 個のボールが入っている場合,Aのボールを失う確率は で,ボールを獲得する確率は である.これは,遷移行列を与える:

壷Aの定常分布:

ボールの最初の分布に関係なく定常分布は同じである:

ランダムウォーク  (2)

両側で吸収するレイジーではないランダムウォークで,右に移動する可能性が2:1の場合,過程が左の境界の右横から始まったとしても,右の境界に到達する可能性は50%を超える:

閉路上のランダムウォーク:

連鎖は,可逆で非周期である:

定常分布は,対称性のため一様である:

機械修理  (1)

ある機械工場の作業セルは3台の機械からなっている.どの日でも機械のどれかが確率0.1で故障する.機械1は機械2と機械3の両方にフィードするので,機械1が故障するとその日は生産ができない.翌日使えるように同日修理できる機械は1台だけである.数台の機械が故障した場合,それらは1,2,3の優先順位で修理される.修理された機械は翌日は使えるものと仮定する.いくらかでも生産できる時間の割合を求める.故障と修理の過程は,故障している機械と使える機械のすべての組合せを列挙することで離散マルコフ過程としてモデル化することができる:

故障している機械がない.1台あるいは複数の機械が翌日故障する可能性がある:

1台の機械が故障している.これは修理される.残りの機械の片方あるいは両方が故障する可能性がある:

2台の機械が故障している.修理は優先順位で行われる.残っている機械が故障する可能性がある:

すべての機械が故障している.機械1が修理される:

結果の遷移行列:

すべての機械が故障していない状態から始める離散マルコフ過程:

機械が1台も故障していない,あるいは機械2と3のどちらかだけが故障している場合に生産が行える:

フル稼働で生産できる確率:

すべての機械が故障している状態から,1台も故障していない状態になるのにかかる時間の平均:

保険  (1)

BonusMalus自動車保険システムの4つの状態のマルコフ連鎖モデルで,それぞれの保険契約者は,その前の年に行った支払請求の数によって,1,2,3,4の状態のいずれかを与えられ,この状態が年払い保険料を決定する.支払請求がなければ,保険料が低くなるが,1回以上支払請求を行うと,通常保険料は高くなる.4つの状態について保険料のレベルと,保険契約者の一連の状態の遷移行列を考慮して,保険契約者の年間の支払請求が平均のポアソンランダム変数である場合の,年間保険料の平均を求める:

年間の保険料の平均:

その他  (3)

1年が365日であり,どの日も等しい確率で誕生日に当ると仮定して,少なくとも2人が50%の確率で同じ誕生日となるには最低何人が必要かを求める.状態は, 誕生日が他の人と異なる人の数および 少なくとも2人の人が同じ誕生日である:

孤島における種の個体数が食糧供給によって で固定されている,簡単な自然淘汰のモデルを考慮する.突然変異体は,その種の通常の成員よりも高い生存率を生まれながらに持ち,それぞれの世代において,この突然変異体が確率 で位置を獲得するか,確率 で失う:

突然変異体がこの島で優位に立つ可能性:

突然変異体がこの島で優位に立つまでに必要な世代数の平均:

火星からの無線信号がたった1つの母音Aと4つの子音BCDRのみを使う言語で書かれており,通常の信号の中に次の推定遷移行列を持つマルコフ連鎖によって作成された長いメッセージがちりばめられていると仮定する:

連続する母音間の平均距離を求める:

連続する子音間の平均距離を求める:

連続して起るBの長さの平均と分散を求める:

特性と関係  (1)

遷移行列は,条件付きの1ステップ確率を与える:

考えられる問題  (3)

遷移行列の行を合計しても1にならない場合には,これらの行は正規化される:

初期確率は,合計しても1にならない場合には,正規化される:

連鎖が状態1で始まるとして,制限分布を求める:

遷移行列は簡約できない:

このため,定常分布は一意的ではない:

Wolfram Research (2012), DiscreteMarkovProcess, Wolfram言語関数, https://reference.wolfram.com/language/ref/DiscreteMarkovProcess.html (2014年に更新).

テキスト

Wolfram Research (2012), DiscreteMarkovProcess, Wolfram言語関数, https://reference.wolfram.com/language/ref/DiscreteMarkovProcess.html (2014年に更新).

CMS

Wolfram Language. 2012. "DiscreteMarkovProcess." Wolfram Language & System Documentation Center. Wolfram Research. Last Modified 2014. https://reference.wolfram.com/language/ref/DiscreteMarkovProcess.html.

APA

Wolfram Language. (2012). DiscreteMarkovProcess. Wolfram Language & System Documentation Center. Retrieved from https://reference.wolfram.com/language/ref/DiscreteMarkovProcess.html

BibTeX

@misc{reference.wolfram_2024_discretemarkovprocess, author="Wolfram Research", title="{DiscreteMarkovProcess}", year="2014", howpublished="\url{https://reference.wolfram.com/language/ref/DiscreteMarkovProcess.html}", note=[Accessed: 21-November-2024 ]}

BibLaTeX

@online{reference.wolfram_2024_discretemarkovprocess, organization={Wolfram Research}, title={DiscreteMarkovProcess}, year={2014}, url={https://reference.wolfram.com/language/ref/DiscreteMarkovProcess.html}, note=[Accessed: 21-November-2024 ]}