2017年度Deep Learning基礎講座(公開講座)
MLP・ニューラルネットワークの基礎から始まり、徐々にDeep Learningの核心的技術や最新トピックが学べるように設計された、高度なプログラムを提供します。「Practice makes perfect」の考えに基き、演習を通じての技術習得を目指します。演習では、ブラウザ上からGPUを利用したPythonコーディングが可能な開発環境「ilect.net」を提供しており、本題に集中して学習できます(ilectの詳細はこちら)。教科書として「深層学習」(機械学習プロフェッショナルシリーズ)を利用しますので受講者は必ず用意して受講に臨んでください。尚、本講座は自主講義であり、大学からは単位は出ませんのでご了承ください。
- 日時:毎週火曜日 第4時限(14:55~16:40)
- 場所:東京大学工学部2号館2階223号講義室(大学院授業と同時開催。公開講座は遠隔での実施となります)
- 対象:社会人および東京大学の学生(学部生優先)
- 大学院生は正規授業として、「先端人工知能論I」を履修してください。
2017年度のハイライト
- 受け入れ受講者数の増加
- 秋には応用講座を開設予定
- TensorFlowを中心とした新演習コンテンツ
- Attentionモデルなどの新しい内容の追加,NLPトピックの拡充(予定)
目次
(内容は調整中で、変更される可能性があります)
- Introduction
内容:Deep Learningとは/人工知能技術の歴史、社会への影響/講義全体像と注意事項/ 全員挨拶
日付:2017/4/11 - Machine Learning 1
内容:Pythonと線形代数,行列・テンソル,数式と実装のブリッジ
日付:2017/4/18 - Machine Learning 2
内容:k-NN, Logistic Regression, Softmax, train/dev/testデータセット,学習プロセス
日付:2017/4/25 - Perceptron + Feed Forward Network, Gradient Descent
内容:Gradient Descent, MLP, Logistic Regression, Softmax
日付:2017/5/2 - Gradient Descent, Stochastic Gradient Descent, Optimizers
内容:TensorFlow基礎、各種Optimizers、重みの初期化など
日付:2017/5/9 - Autoencoders
内容:Deep Learning、特徴抽出、Autoencoder概要、dA, SdA, Sparse Coding, GPU
日付:2017/5/16 - Convolutional Neural Networks(CNN)
内容:CNN基礎、畳込み、プーリング
日付:2017/5/23 - Convolutional Neural Networks(CNN) 2
内容:画像処理、前処理、Data Augmentation、Batch Normalization、可視化、最新動向
日付:2017/6/6 - RNN Basics
内容:系列データ, RNN
日付:2017/6/13 - RNN and NLP
内容:Embedding, Projection, Word2vec, sequence-to-sequence
日付:2017/6/20 - RNN, NLP, Image Processing
内容:Attention, Image caption
日付:2017/6/27 - Summary and Advanced Topics
内容:Advanced Topics
日付:2017/7/4