深層学習

基礎
代表的なNN
- RNN
  - LSTM, GRU
- CNN
- AutoEncoder
言語処理と深層学習
- Embedding
- seq2seq
- Attention mechanism
- memory network
- 言語モデル
  - subword
  - Transformer
  - contextual LM
    - elmo
    - BERT
softmax関数計算の高速化
汎化性能の向上
NMT
misc
- Adversarial Training
- GAN, Cycle GAN
- VAE, VQ-VAE

参考文献