出典 Convolutional Neural Networks for Sentence Classification 所感 CNNを使用した文章分類として非常に興味深い論文であり、特に個人的には下の表で、埋め込み層を学習可能にしていた時と、していなかった時の最終的な埋め込みベクトルから得られる各単…

出典 ABCNN: Attention-Based Convolutional Neural Network for Modeling Sentence Pairs 所感 この論文で提案されている、Attention機構をCNNを含んだネットワークで使用するという考えは非常に面白いと感じた。 文書分類等を扱った多くの論文で、CNNは画…

出典 Deep Residual Learning for Image Recognition (arxiv) 所感 非常にシンプルな機構で、層を深くした際の問題を解決していて非常に興味深い論文である。 この論文が発表された後に、このモデルの拡張を行うことで精度を上げてきた構造も存在してるが基…

出典 Towards AI-Complete Question Answering: A Set of Prerequisite Toy Tasks (arxiv) 所感 本論文では、対話エージェントを学習するために必要なスキルセットを評価するためのタスクの定義と、それらのタスクでの精度を評価するためのベースラインとな…

出典 Memory Networks (arxiv) 所感 Memory Networks自体はニューラルネットワークを用いる必要はなく、質問に答えるのに必要な記憶を長期記憶から発見する関数を学習する。 つまり、記憶の選択と回答候補の選択に使用するスコアリング関数の最適化を行うた…