NLP Bag-of-Words:単語の袋で文章を表現
- Bag-of-WordsとはBag-of-Words(BoW)は、人間が普段使う言葉をコンピュータで扱う自然言語処理の分野において、文章を分析し、その特徴を捉えるために広く使われている手法です。BoWは、文章を構成する単語の種類と出現回数に着目し、文章の内容を数値化します。これは、まるで単語を袋に入れた際に、その袋の中にどの単語がいくつ入っているのかを数えるようなものだと例えることができ、このことから「単語の袋」という意味であるBag-of-Wordsという名前が付けられています。例えば、「今日は晴れていて、公園で散歩をしました。気持ちよかったです。」という文章をBoWで分析するとします。まず、この文章を「今日」「は」「晴れ」「て」「いて」「公園」「で」「散歩」「を」「し」「まし」「た」「気持ち」「よかっ」「た」「です」といったように、一つ一つの単語に分割します。次に、それぞれの単語が何回出現したかを数えます。この例では、「今日」「は」「晴れ」「て」「いて」「公園」「で」「散歩」「を」「し」「まし」「た」「気持ち」「よかっ」「た」「です」はすべて1回ずつ出現しています。このように、BoWでは単語の順番や文法的な関係性を無視して、あくまで単語の出現回数のみを情報として扱うという点が大きな特徴です。
