リカレントニューラルネットワークによる知的情報処理

再開催を依頼する / 関連するセミナー・出版物を探す
会場 開催

日時

開催予定

プログラム

リカレントニューラルネットワーク (RNN) とはニューラルネットワークの一つであり、系列情報を処理するために考案されたモデルである。極言すれば、我々の日常行っている知的情報処理のほとんどは、眼前の情報と過去の記憶とから、出力を生成することである。RNN は情報を将来参照できるように記憶として保持するための再帰結合 (リカレントコネクション) を持つ。このためリカレント (再帰的な) という単語が名前に含まれている。経験と記憶から生成した出力を評価関数によって評価し、最適な出力を選択するための計算手法が RNN である。  RNN が適用可能な分野は広汎であり枚挙に暇がない。例えば、画像処理、光学、音声認識、自然言語処理、ロボティクス、機械学習、情報検索、神経科学、認知科学、生物学、などが主な分野である。今後の適用可能な分野は広がると予想できる。物理学、工学、生物学、心理学、コンピュータサイエンス、言語学、社会学、および数学の諸分野が RNN の関連分野である。  畳み込みニューラルネットワークと RNN とを組み合わせれば画像や動画の脚注や解説を文章として表現することが可能となる。一方、強化学習 と RNN とを組み合わせれば環境とエージェントとの相互作用に記憶を付与することが可能となり、結果として効率的なロボットの作成が可能となる。今回はリカレントニューラルネットワークの基本から解説する。

  1. リカレントニューラルネットワークの歴史
  2. 単純再帰型リカレントニューラルネットワーク
    1. ジョーダンネットワーク
    2. エルマンネットワーク
    3. アトラクタネットワーク
    4. 双方向リカレントニューラルネットワーク BiRNN
  3. バックプロパゲーションスルータイム BPTT
  4. 勾配消失/爆発問題
    1. 勾配チェック
    2. 正則化法
    3. ドロップアウト
  5. LSTMGRU
  6. 注意の導入
  7. 画像からの文章生成
  8. 対話モデル

会場

中央大学 駿河台記念館
101-0062 東京都 千代田区 神田駿河台3丁目11−5
中央大学 駿河台記念館の地図

受講料