自然言語処理

概要

本講座は、学生を対象とする、「Deep Learning × 自然言語処理」に特化した全3回・3週間の集中講座です。東京大学Deep Learning基礎講座・応用講座を公開してきた松尾研究室が、松尾研究室発スタートアップである ELYZA(イライザ)による全面協力のもと提供しています。分散表現・言語モデルといった基礎的な内容から始まり、Transformerやそれを用いた大規模言語モデルに触れ、現在の概観を学ぶことができます。これによって、Deep Learningを用いた自然言語処理の研究のスタートラインに立てるレベルの知識・実装力の習得を目指します。幅広いトピックを扱いつつ、実践的な演習を通して実際に手を動かすことで、技術を深く理解し効率的に学習を進めることができます。

 

なお、本セミナーは完全オンラインで実施いたします。

ブラウザのみ必要

必要なものはZoomのインストールとWebブラウザのみです。ブラウザを通じてGPUを利用したPythonプログラミングが可能な開発環境「Google Colab」を利用します。

出来るようになること

  1. 検索エンジンと翻訳
  2. チャットボット/対話AI開発
  3. 文章生成・レポートを書く
  4. 対話型のゲーム

 などの作成の基礎が学べます。

演習中心で効率良く短期習得

本プログラムの最大の特徴の一つは、全てのトピックについて,演習を中心に構成されている点です。実際に手を動かしながら理解を進めることで、効率よく学習することができます。

モデルの学習

Deep Learning技術では、モデルが学習する様子を観測しながらパラメータを調整することで、アプリケーションに応じたパフォーマンスの最大化を図ることが非常に重要です。この一連の流れを全ての演習で経験することで、重要な要素を身につけられます。

ELYZA(イライザ)がコンテンツ作成

松尾研究室発スタートアップであり、過去のNLPサマースクールでも講師を担当してきた ELYZA(イライザ)がコンテンツを作成しています。

コンテンツ(予定)

第1回:NLP概観・分散表現・テキスト分類

NLPとは・日本語の自然言語処理・分散表現・テキスト分類

第2回:言語モデル・Transformer

言語モデル・Seq2Seq・Attention・Transformer

第3回:大規模言語モデル

BERT・T5・GPT-3・Scaling law・その他最新事例紹介

※ 授業コンテンツに関しては、変更する可能性がございます。ご了承下さい。

企画

松尾 豊

東京大学
大学院工学研究科
松尾研究室

講師

曽根岡 侑也

株式会社ELYZA
CEO

森田 涼介

株式会社ELYZA
AIエンジニア

曽我部 亮

株式会社ELYZA
AIエンジニア

三澤 遼

株式会社ELYZA
AIエンジニア

佐々木 彬

株式会社ELYZA
AIエンジニア

TA

千葉 駿介

東京大学
工学部

登坂 充

東京大学
大学院
新領域創成科学研究科

運営

大牧 信介

東京大学
松尾研究室職員

武田 康宏

東京大学
松尾研究室職員

河合 真里

東京大学
松尾研究室職員

津島 緑

東京大学
松尾研究室職員

大江 奈保子

東京大学
松尾研究室職員

熊田 洋子

東京大学
松尾研究室職員

システム

和田 俊輔

ワンダーソフト 株式会社

日程

募集開始 2022/8/16(火)
募集締切 2022/8/26(金)AM10:00
選考結果 2022/8/29(月)19時までに受講が決定した方にメールで連絡します。

第1回 2022/9/2(金)13:00〜16:00
第2回 2022/9/9(金)13:00〜16:00
第3回 2020/9/16(金)13:00〜16:00
※他のサマースクールの講座よりも講義時間が長くなっています

募集要項

  • 本セミナーは、配信される講義映像を、各人が自宅等で視聴・演習していただく形式です。
    • 各講義日の13:00〜16:00にライブ配信します。ライブ配信では、リアルタイムに質問を受け付けます。
    • ライブ配信への参加方法など詳細については、受講が決定された方にご連絡いたします。
  • 対象:学生(大学院、大学、高専、専門学校生、高校、中学、社会人学生など)(本講座は公開講座であり、大学から単位は出ません)
  • 受講料は無料です。

参加条件

  • 深層学習の基礎知識があり、基礎的な実装が自力でできること。毎回の講義を確実に視聴できること

 

よくある質問・お問い合わせはこちら

締め切りました。多数のご応募ありがとうございます。