|
（２）エントロピー関数
二者択一の質問で、「はい」の確率がｐだとすると、「いいえ」の確率は（１−ｐ）だから、
確率を使ってエントロピーを表すと
Ｈ(ｐ)としたのは、確率ｐを与えるとエントロピーＨの値が確定するので、Ｈはｐの関数だからだ。
Ｈ(ｐ)はエントロピー関数と呼ばれている。
やってみよう エントロピー関数のグラフを作ろう。
表計算を使って、確率ｐによってエントロピーＨがどのように変化するか、グラフを作ろう。
考察
○確率ｐ＝１の時は、質問するまでもなく答えは分かっているので、エントロピーは【 】
○確率ｐ＝０の時も、いつでも「いいえ」と答えるのだからエントロピーは【 】
○エントロピーが最大なのはｐ＝【 】の時で、値は【 (bit)】である。
どちらの答えもまったく同じように出やすいので、答えを聞くまではまったく予想できない
ので、不確定度＝エントロピーが【 】となるのだ。
○グラフは左右対称だから、ｐ＝０〜ｐ＝０．５のエントロピーを知れば、全体が分かる。
ｐ＝０．９のエントロピーはｐ＝【 】 のエントロピーと等しい。
○その他、グラフから読みとれることは何か
例）「６割方大丈夫」という約束の重みは．．．．
|