数学、ときどき統計、ところによりIT

理論と実践の狭間で漂流する数学趣味人の記録

自然言語処理で文書を美味しく頂くための下拵え

自然言語処理における前処理について思いつくまま書き出した個人的な備忘録です。

続きを読む

ギブスの不等式

今回は相対エントロピーの非負性、いわゆるギブスの不等式について見ていきます。

続きを読む

測度論的相対エントロピー

今回は一般の可測空間上の 2 つの確率測度に対する相対エントロピーおよびそれに関する基本定理について紹介します。

続きを読む

形態素解析 MeCab(2)

形態素解析 MeCab(1)の続きです。

続きを読む

形態素解析 MeCab(1)

与えられた任意の文に対して、意味を持つ最小単位の音素(これを形態素と言います)に分解して、音素の品詞を判別する処理を形態素解析と言います。今回は形態素解析を行うツールである MaCab の使い方についての個人的なメモです。

続きを読む

シャノンエントロピーとファデエフの公理系

今回はシャノンエントロピーとその特徴付けであるファデエフの公理系について紹介します。

続きを読む

経験損失を最小化する仮説を導く学習アルゴリズムとその評価

今回は経験損失を最小化する学習アルゴリズムとその評価について議論します。

続きを読む