目的のない勉強会

主にブルーバックスをまとめています

「最尤推定」について調べてみた

更新中です

最尤推定を知るには、尤度を知らないといけません。

 

尤度について

WHAT;尤度ってなに? 

尤度とは「尤(もっと)もらしさ」です。下の図のようなシーンを想像してみましょう。お殿様がいて、あなたは家来です。お殿様が「次の戦では絶対に勝てる」と言うと、家来たちは「ご尤もです」と答える。そのもっともです。言い換えると、次の戦で勝てると信じている気持ちーーー堅く言えば、度合いーーーとなる。もし本当に次の戦で勝てると思っていれば「ご尤もです!!(尤度)」と答えるし、いや正直キツくねと思っていれば「ご尤もです。。(尤度)」となる。(「無理でしょう」とか言ったら打首です。だから「尤も」という同じ言葉を使うしかなくて、気持ちは言い方ーーーつまり尤度の大きさーーーで表現される。)尤度は英語で Likelihood なので、記号 L で表されます。もし、L が小さければ尤もらしくない(起こりそうもない)、もしLが大きければ尤もらしい(起こりそう)ということになる。つまり、尤度には大きさがある。ちなみにこの殿様の例、私が考えました、どうでしょうか。。

WHY;なんで尤度なんてあるの? 

「確率分布のパラメータを推定するのに使うから」と一言で言えばそうなります。なぜ確率分布のパラメータを推定するのでしょう?現実の現象を確率分布を使ってモデル化し、現実に近づけるためにーーー現実のデータにより近いかたちで再現するーーーパラメータを推定します。なぜこんなモデル化をするのでしょう?一つは未知の現象を予測するため。もう一つは現象の背後に潜むルールを見つけるため。なぜ予測するのか、なぜルールを見つけるのか?面白かったり、便利だったりするからです。(具体例は別記事で紹介します。)

 

HOW;尤度ってどうやって求めるの? 

これは数学の問題になります。最尤推定は尤度を求める手法です。以下で紹介します。

 

 

 

 

尤度の推定:最尤推定

ガウス分布最尤推定

  • 分かりやすい。でも、分かりやすいと(自分の中で)評判のStatQuestでもやや複雑に感じたので、最尤推定の説明は難しいんだなと思った。

www.youtube.com

 

 二項分布の最尤推定

  • 分かりやすい。最尤推定値を求めるときは、対数尤度を変数で微分するけど、動画のように注目している変数以外の変数(パラメータ?)には実数を当てて計算しても分かりやすいかも。あと、二項分布の尤度は連続値をとるから、多項分布の尤度も連続値をとるよね。

www.youtube.com

 

多項分布の最尤推定

三次元データ x=(x1=30,x2=20,x3=50) を与えたときの多項分布の尤度。p1=0.2, p2=0.3 のとき尤度が最大になるのがグラフからわかる。これは最尤推定値と一致する。