自然言語処理
概要
本講座は、学生を対象とする、「Deep Learning × 自然言語処理」に特化した全3回・3週間の集中講座です。東京大学Deep Learning基礎講座・応用講座を公開してきた松尾研究室が、松尾研究室発スタートアップである ELYZA（イライザ）による全面協力のもと提供しています。分散表現・言語モデルといった基礎的な内容から始まり、Transformerやそれを用いた大規模言語モデルに触れ、現在の概観を学ぶことができます。これによって、Deep Learningを用いた自然言語処理の研究のスタートラインに立てるレベルの知識・実装力の習得を目指します。幅広いトピックを扱いつつ、実践的な演習を通して実際に手を動かすことで、技術を深く理解し効率的に学習を進めることができます。
なお、本セミナーは完全オンラインで実施いたします。
ブラウザのみ必要
必要なものはZoomのインストールとWebブラウザのみです。ブラウザを通じてGPUを利用したPythonプログラミングが可能な開発環境「Google Colab」を利用します。
出来るようになること
- 検索エンジンと翻訳
- チャットボット/対話AI開発
- 文章生成・レポートを書く
- 対話型のゲーム
などの作成の基礎が学べます。
演習中心で効率良く短期習得
本プログラムの最大の特徴の一つは、全てのトピックについて，演習を中心に構成されている点です。実際に手を動かしながら理解を進めることで、効率よく学習することができます。
モデルの学習
Deep Learning技術では、モデルが学習する様子を観測しながらパラメータを調整することで、アプリケーションに応じたパフォーマンスの最大化を図ることが非常に重要です。この一連の流れを全ての演習で経験することで、重要な要素を身につけられます。
コンテンツ（予定）
第1回：NLP概観・分散表現・テキスト分類
NLPとは・日本語の自然言語処理・分散表現・テキスト分類
第2回：言語モデル・Transformer
言語モデル・Seq2Seq・Attention・Transformer
第3回：大規模言語モデル
BERT・T5・GPT-3・Scaling law・その他最新事例紹介
※ 授業コンテンツに関しては、変更する可能性がございます。ご了承下さい。
企画
松尾 豊
東京大学
大学院工学研究科
松尾研究室
大学院工学研究科
松尾研究室
講師
曽根岡 侑也
株式会社ELYZA
CEO
CEO
森田 涼介
株式会社ELYZA
AIエンジニア
AIエンジニア
曽我部 亮
株式会社ELYZA
AIエンジニア
AIエンジニア
三澤 遼
株式会社ELYZA
AIエンジニア
AIエンジニア
佐々木 彬
株式会社ELYZA
AIエンジニア
AIエンジニア
TA
千葉 駿介
東京大学
工学部
工学部
登坂 充
東京大学
大学院
新領域創成科学研究科
大学院
新領域創成科学研究科
運営
大牧 信介
東京大学
松尾研究室職員
松尾研究室職員
武田 康宏
東京大学
松尾研究室職員
松尾研究室職員
河合 真里
東京大学
松尾研究室職員
松尾研究室職員
津島 緑
東京大学
松尾研究室職員
松尾研究室職員
大江 奈保子
東京大学
松尾研究室職員
松尾研究室職員
熊田 洋子
東京大学
松尾研究室職員
松尾研究室職員
システム
和田 俊輔
ワンダーソフト 株式会社
日程
| 募集開始 | 2022/8/16（火） |
|---|---|
| 募集締切 | 2022/8/26（金）AM10:00 |
| 選考結果 | 2022/8/29（月）19時までに受講が決定した方にメールで連絡します。 |
| 第1回 | 2022/9/2（金）13:00〜16:00 |
|---|---|
| 第2回 | 2022/9/9（金）13:00〜16:00 |
| 第3回 | 2020/9/16（金）13:00〜16:00 |
| ※他のサマースクールの講座よりも講義時間が長くなっています |
募集要項
- 本セミナーは、配信される講義映像を、各人が自宅等で視聴・演習していただく形式です。
- 各講義日の13:00〜16:00にライブ配信します。ライブ配信では、リアルタイムに質問を受け付けます。
- ライブ配信への参加方法など詳細については、受講が決定された方にご連絡いたします。
- 対象：学生（大学院、大学、高専、専門学校生、高校、中学、社会人学生など）（本講座は公開講座であり、大学から単位は出ません)
- 受講料は無料です。
参加条件
- 深層学習の基礎知識があり、基礎的な実装が自力でできること。毎回の講義を確実に視聴できること
よくある質問・お問い合わせはこちら
