ML Paper Pickups

株式会社ビルディットの機械学習エンジニアが、読んだ論文をピックアップしつつ、所感を残していくブログです。

「Convolutional Neural Networks for Sentence Classification」を読んだ

出典

Convolutional Neural Networks for Sentence Classification

所感

CNNを使用した文章分類として非常に興味深い論文であり、特に個人的には下の表で、埋め込み層を学習可能にしていた時と、していなかった時の最終的な埋め込みベクトルから得られる各単語の分散表現が興味深い。word2vecでの事前学習のみの際はgoodとbadは似たベクトル関係にあり、それらの違いを知る余地はなかったが、極性分類を学習したあとにはgoodにはポジティブな属性、badにはネガティブな属性が付与されているように見て取れる。

f:id:build_it:20170531094312p:plain