数学、ときどき統計、ところによりIT

理論と実践の狭間で漂流する数学趣味人の記録

統計的機械学習

2 値判別問題における代理損失と判別適合性

今回は 2 値判別問題に代理損失を用いることの正当性について考えることにします。

2 値判別問題

入力値に対してラベルを割り当てて複数のグループに振り分ける問題を判別問題と言います。特に 2 つのグループに振り分ける問題を 2 値判別問題と言います。例えば迷惑メールの振り分けは 2 値判別問題の典型例です。 今回は 2 値判別問題を機械学習の枠組み…

経験損失を最小化する仮説を導く学習アルゴリズムとその評価

今回は経験損失を最小化する学習アルゴリズムとその評価について議論します。

確率不等式

学習アルゴリズムの評価において必要となる不等式を証明します。

統計的機械学習と統計的決定理論の関係

前回、学習アルゴリズムの評価方法として期待予測損失を用いる方法を紹介しましたが、この方法は統計的決定理論*1の枠組みで書き表すことが出来ます。 *1:統計的決定理論については「数理統計学 7 統計的決定理論 (1)」をご参照下さい。

統計的機械学習

今回から数回に亘って統計的機械学習について取り上げたいと思います。