統計的学習理論
p.9 の定義 1.1 を引用する。 損失関数 を定めたとき、任意の可測関数 のもとでの予測損失の下限 を、損失関数 のもとでのベイズ誤差(Bayes error)という。下限を達成する仮説が存在するとき、その仮説をベイズ規則(Bayes rule)という。 学習の目標は、…
ここにあります Useful inequalities cheat sheet
一様対数の法則の不等式は以下に示す通り。すなわち、 以上の確率で次式が成り立つ。 不等式の左辺における の中身の符号を反転したものについても同様の不等式が成り立つので、結局 以上の確率で が成り立つ。 右辺の は誤植ではない。実際、 とおくと、 で…
公式の正誤表以外のものを列挙する。 以下の正誤表は私の手元にある第1刷に基づく。 随時追記予定。 p.24 と の共通部分 → と の共通部分 p.28 → p.28 最後の不等式 → 最後の等式 p.68 上から9行目 → p.68 上から13行目 →
p.12に という関係式が現れる。ここで は仮説、TPは真陽性率、AUCは曲線下面積(area under the curve)である。 なぜこの式が成り立つのか? 左辺はROC曲線のプロットに現れるTPの平均値である。 が値域全体を走るにつれて、 は ROC曲線のTPの値を走るわけ…
主張と証明 内積空間 を考え、ノルムを とする。 あるベクトルの集合 があり、すべての要素の大きさ(ノルム)が 以下であるとする。(つまり、任意の について )。 関数(ベクトル) が、集合 の要素の凸結合(係数が非負で和が1)で表されているとする。 …