sklearn.naive_bayes を（複数の）カテゴリ機能とともに使用するにはどうすればよいですか? [closed] 質問する

一部の機能はブール型ですが、その他の機能はカテゴリ型であり、少数の値 (約 5) を取ることができます。

これは興味深い質問ですが、実際には 1 つの質問以上のものです。

1. NB でカテゴリ特徴を処理する方法。
2. NB で非同次な特徴を処理する方法 (以下で指摘するように、2 つのカテゴリ特徴も非同次です)。
3. これを で行う方法sklearn。

まず、単一カテゴリ特徴NBは特徴が独立していると仮定/単純化しています。これを複数のバイナリ変数に変換するというあなたのアイデアはまさにダミー変数明らかに、これらのダミー変数は独立とは程遠いものです。結果に対してベルヌーイ NB を実行するというアイデアは、暗黙的に独立性を前提としています。実際には、従属変数に直面しても NB が必ずしも機能しないということはわかっていますが、特に多項式 NB が非常に簡単な代替手段であるため、問題を NB にとって最悪の構成に変換しようとする理由はありません。

逆に、ダミー変数を使用して単一のカテゴリ変数を複数列のデータセットに変換した後、多項式NBを使用するとします。多項式NBの理論州:

多項式イベント モデルでは、サンプル (特徴ベクトル) は、多項式によって特定のイベントが生成された頻度を表します。ここで、pi はイベント i が発生する確率です。特徴ベクトルはヒストグラムであり、xi {\displaystyle x_{i}} x_{i} は特定のインスタンスでイベント i が観測された回数をカウントします。これは、ドキュメント分類によく使用されるイベント モデルであり、イベントは単一のドキュメント内の単語の出現を表します (bag of words 仮定を参照)。

したがって、ここでは、単一のカテゴリ変数の各インスタンスは「長さ 1 の段落」であり、分布は正確に多項分布です。具体的には、長さ 1 の段落には 1 つの単語しか含まれていないため、各行の 1 つの位置に 1 が含まれ、残りすべてに 0 が含まれます。したがって、これらが頻度になります。

の多項式 NBの観点からはsklearn、データセットが 5 列であるという事実は、独立性の仮定を意味するものではないことに注意してください。

ここで、いくつかの特徴量からなるデータセットがある場合を考えてみましょう。

1. カテゴリ
2. ベルヌーイ
3. 普通

NB を使用するという前提では、これらの変数は独立しています。したがって、次の操作を実行できます。

1. NB分類器を構築するそれぞれダミー変数と多項式 NB を使用して、カテゴリ データを個別に分析します。
2. NB分類器を構築する全てsklearnのベルヌーイ NB は、複数の単一特徴ベルヌーイ NB への単なるショートカットであるため、ベルヌーイ データを一度に処理することはできません。
3. すべての通常の機能については 2 と同じです。

独立性の定義によれば、インスタンスの確率は、これらの分類子によるインスタンスの確率の積になります。