ギブスの不等式

今回は相対エントロピーの非負性、いわゆるギブスの不等式について見ていきます。

測度論的相対エントロピー

今回は一般の可測空間上の 2 つの確率測度に対する相対エントロピーおよびそれに関する基本定理について紹介します。

形態素解析 MeCab（２）

形態素解析 MeCab（１）の続きです。

形態素解析 MeCab（１）

与えられた任意の文に対して、意味を持つ最小単位の音素（これを形態素と言います）に分解して、音素の品詞を判別する処理を形態素解析と言います。今回は形態素解析を行うツールである MaCab の使い方についての個人的なメモです。

シャノンエントロピーとファデエフの公理系

今回はシャノンエントロピーとその特徴付けであるファデエフの公理系について紹介します。

経験損失を最小化する仮説を導く学習アルゴリズムとその評価

今回は経験損失を最小化する学習アルゴリズムとその評価について議論します。

確率不等式

学習アルゴリズムの評価において必要となる不等式を証明します。