差分

このページの2つのバージョン間の差分を表示します。

--- 機械学習:lstm代替案 [2016/03/10 20:05]
sakaimiho
+++ 機械学習:lstm代替案 [2016/03/22 13:37] (現在)
n.arakawa [LSTMアーキテクチャー]
@@ 行 1: / 行 1: @@
 ====== LSTMとは ======
 ===== 概要 =====
-LSTMは、リカレントニューラルネットワークのアーキテクチャーをもとに、1997年に Sepp Hochreiter and Jürgen Schmidhuberによって提唱されたモデルです。リカレントニューラルネットワークと同様に、ニューラルネットワークでは扱いが難しかった時系列データ（文章、音声、映像）に対して有効な手法です。
+LSTMは、1997年に Sepp Hochreiter と Jürgen Schmidhuberによって提唱された[[機械学習:再帰型ニューラルネットワーク|リカレントニューラルネットワーク]]のアーキテクチャーです。[[機械学習:単純再帰型ニューラルネットワーク|単純なリカレントニューラルネットワーク]]と同様に、ニューラルネットワークでは扱いが難しかった時系列データ（文章、音声、映像）に対して有効な手法です。単純なリカレントネットワークでは長期的な依存関係を学習できない問題を回避しています。
+==== LSTMの適用領域 ====
-==== RNNモデルの課題 ====
+  * 音声認識
-[[再帰型ニューラルネットワーク|リカレントネットワーク]]モデルと比べ、短期記憶の影響を長期に渡って保持する能力を持つことで長期的な依存関係を学習出来ない問題を回避しました。このため未知のサイズで時間的な遅れがある場合には、リカレントニューラルネットワークよりも経験からより良く学ぶ傾向があります。
+  * 文章生成
+  * 音楽生成
-==== LSTMアーキテクチャーの説明 ====
+  * 映像解析
+==== LSTMアーキテクチャー ====
 {{ :機械学習:2015greff_lstm_ja.png?300 |}}
 図で情報は下から上へと流れます。中央にセルと書いてある部分にリカレント結合（再帰結合）があります
@@ 行 23: / 行 23: @@
 もう一つの注意点として実線と点線の区別に注目してください。実線は即時的に働く流れです。一方点線は時間遅延を表します。次の時刻に影響を及ぼすことを示しています。
-最後に後回しにした青線で描かれたピープホールですが，セルの内容が直接ゲートを制御するために導入されました。セル自身がゲートを制御することで，より積極的にゲートの開平の効率向上を目指しています。
+最後に後回しにした青線で描かれたピープホールですが，セルの内容が直接ゲートを制御するために導入されました。セル自身がゲートを制御することで，より積極的にゲートの開閉の効率向上を目指しています。
 図では１つの LSTMブロックだけが描かれています。LSTMブロックが複数集まってLSTM層を構成します。LSTM層を多層化するとディープLSTMになります。多層のLSTMでは，時間的空間的に異なる抽象化が表象されると考えられます。
+==== 学習方法 ====
 ==== LSTMのライブラリ ====
-・Cahiner
+ * Chainer
-・Karpath
+ * Karpathy
 ==== LSTMの参考文献 ====
 参考記事として、概要としては[[http://colah.github.io/posts/2015-08-Understanding-LSTMs/|Christopher Olah氏のブログ記事]]、全脳アーキテクチャー若手の会の八木氏の資料[[http://qiita.com/t_Signull/items/21b82be280b46f467d1b|「わかるLSTM～ 最近の動向と共に」]]
 により分かりやすい説明内容が書いてあります。また、LSTMのパラメタ評価として[[http://arxiv.org/pdf/1503.04069v1.pdf|Greff（2015）]]が参考になります。