Learning Fundamentals of NLP【自然言語処理基礎勉強会2020】
概要
- B4, M1の学生を中心に，自然言語処理の基礎を学ぶため，自然言語処理に関する本の輪講をおこなっています．
目的
- 自然言語処理の基礎を学ぶ
- 自然言語処理関係の英文を読む訓練を行う
教科書
- 第1部
- 黒橋, 柴田『自然言語処理概論』, サイエンス社, 2016
- 第2部
- SLP: Daniel Jurafsky & James H. Martin, “Speech and Language Processing”, 3rd Edition (draft), 2017.
- SLP (2nd ed.): Daniel Jurafsky & James H. Martin, “Speech and Language Processing”, 2nd Edition, 2009.
- Yoav: Yoav Goldberg, “Neural Network Methods for Natural Language Processing”, 2017
- CS224n: Chris Manning (Stanford), CS224n, Natural Language Processing with Deep Learning.
- Web with lecture notes, slides, videos, suggested readings
- CS11-747: Graham Neubig (CMU), CS 11-747, Neural Networks for NLP.
- Embedding book: Mohammad Taher Pilehvar & Jose Camacho-Collados, “Embeddings in Natural Language Processing”, draft, 2020.
References
- 書籍など
- 黒橋『自然言語処理』2015, 奥村『自然言語処理の基礎』2010
- 坪井裕太, 海野裕也, 鈴木潤『深層学習による自然言語処理』, 2017
- 人工知能学会『人工知能学大辞典』, 2017
- Robert A Wilson, Frank C. Keil, 中島秀之監訳『MIT認知科学大辞典』, 2012
進め方
- 1章当たり2,3回かけて担当の人が内容を説明します．SLPについては全訳を作る必要はないですが，英語力に自信のない人は主要な文(パラグラフ)だけでも作りましょう．
- アジェンダ(レジュメ)を配布すると聞いている人の助けになります．
- 最低限キーワードの説明ができるくらいが目標です．キーワードの説明ができなければ他の参考書を当たるなり検索するなりして調べましょう．どの参考書を見ればいいのか分からなければ担当の TA の人に相談してください．
- 第2部を進める際, SLP 3rd Edition.draftの未執筆章については2nd Editionや他の書籍・資料を適宜参照します
スライドを作る上で注意
- アスペクト比は4:3
- ページ番号を振りましょう
- 参考にした書籍やwebページは書籍名・URLを参考資料としてスライドに記載しましょう
2020年
読む章・TA
第1部
| Chapter | 内容 | TA |
|---|
| 第1章 | はじめに | 大竹 |
| 第2章 | 系列の解析 | 舟山 |
| 第3章 | 構文の解析 | 栗林 |
| 第4章 | 意味の解析 | Ana |
| 第5章 | 文脈の解析 | 阿部 |
| 第6章 | ニューラルネットワークの利用 | 伊藤 |
| 第7章 | 情報抽出と知識獲得 | 佐藤T |
| 第8章 | 情報検索 | 佐藤(俊) |
| 第9章 | トピックモデル | 横井 |
| 第10章 | 機械翻訳 | 北山 |
| 第11章 | 対話システム | 佐藤(志) |
| 第12章 | まとめ | 宮脇 |
第2部
| Book/Course | Chapter | 内容 | TA |
|---|
| SLP (2nd ed.) | Chapter 1 | Introduction | 栗林 |
| Yoav | Chapter 1–1.3 | Introduction | 栗林 |
| SLP | Chapter 3 | Language Modeling with N-Grams | 赤間 |
| SLP | Chapter 5 | Logistic Regression | 塙 |
| SLP | Chapter 6 | Vector Semantics and Embeddings | Benjamin |
| SLP | Chapter 7 | Neural Nets and Neural Language Models | 高橋 |
| SLP | Chapter 8 | Part-of-Speech Tagging | 三田 |
| SLP | Chapter 9 | Sequence Processing with Recurrent Networks | 清野 |
| CS224n | – | Machine Translation, Seq2Seq and Attention (CS224n) | 藤井 |
| Embedding book | Chapter 6 | Contextualized Embeddings | 小林G |
| SLP | Chapter 14 | Statistical Constituency Parsing | 吉川 |
| SLP | Chapter 15 | Dependency Parsing | 大内 |
| SLP | Chapter 16 | Logical Representations of Sentence Meaning | 谷中 |
| SLP | Chapter 18 | Information Extraction | 加藤 |
| SLP | Chapter 20 | Semantic Role Labeling and Argument Structure | 今野 |
| SLP | Chapter 24 | Coreference Resolution | Paul |
| SLP | Chapter 28 | Question Answering | 鈴木M |
| SLP | Chapter 29 | Dialog Systems and Chatbots | 佐藤S |
日程・担当
Create scrapbox page??
ローテーション
岸波 → 神戸 → 仲村 → 藤原 → 松本 → 佐藤 → 凛 → 尾中 → 菊池 → 浅妻
第1部
| 日時 | 担当部分 | 担当 | 資料 | TA |
|---|
| 2020年3月31日（火） | 第1章 | 岸波 | 内部資料 | 大竹 |
| 2020年4月6日（月） | 第2章 | 神戸 | 内部資料 | 舟山 |
| 2020年4月7日（火） | 第3章 | 仲村 | 内部資料 | 栗林 |
| 2020年4月9日（木） | 第4章 | 藤原 | 内部資料 | Ana |
| 2020年4月10日 (金) | 第5章 | 松本 | 内部資料 | 阿部 |
| 2020年4月14日(火) | 第6章 | 佐藤 | 内部資料 | 伊藤 |
| 2020年4月24日（金） | 第7章 | 凛 | 内部資料 | 佐藤T |
| 2020年4月28日（火） | 第8章 | 尾中 | 内部資料 | 佐藤(俊) |
| 2020年5月7日（木） | 第9章 | 菊地 | 内部資料 | 横井 |
| 2020年5月21日（木） | 第10章 | 浅妻 | 内部資料 | 北山 |
| 2020年5月26日（火） | 第11章 | 岸波 | 内部資料 | 佐藤(志) |
| 2020年5月28日（木） | 第12章 | 神戸 | 内部資料 | 宮脇 |
第2部
| 日時 | Book/Course | Chapter | 担当 | 資料 | TA |
|---|
| 2020年6月4日（木） | SLP (2nd ed.) | Chapter 1 – 1.4 | 仲村 | 内部資料 | 栗林 |
| 2020年6月9日（火） | SLP (2nd ed.) | Chapter 1.5 – 1.6 | 藤原 | 内部資料 | 栗林 |
| 2020年6月11日(木) | Yoav | Chapter 1–1.3 | 松本 | 内部資料 | 栗林 |
| 2020年6月18日(木) | SLP | Chapter 3.1 – 3.2 | 佐藤 | 内部資料 | 赤間 |
| 2020年6月23日(火) | SLP | Chapter 3.3 – 3.4 | 凛 | 内部資料 | 赤間 |
| 2020年6月25日(火) | SLP | Chapter 3.5 – 3.8 | 尾中 | 内部資料 | 赤間 |
| 2020年6月30日(火) | SLP | Chapter 5 – 5.3 | 菊地 | 内部資料 | 塙 |
| 2020年7月2日(木) | SLP | Chapter 5.4 | 浅妻 | 内部資料 | 塙 |
| 2020年7月9日(木) | SLP | Chapter 5.5 – 5.9 | 岸波 | 内部資料 | 塙 |
| 2020年7月14日(火) | SLP | Chapter 6 – 6.3 | 神戸 | 内部資料 | Benjamin |
| 2020年7月16日(木) | SLP | Chapter 6.4 – 6.7 | 仲村 | 内部資料 | Benjamin |
| 2020年7月21日(火) | SLP | Chapter 6.8 – 6.12 | 藤原 | 内部資料 | Benjamin |
| 2020年8月4日(火) | SLP | Chapter 7.1 – 7.3 | 松本 | 内部資料 | 高橋 |
| 2020年8月6日(木) | SLP | Chapter 7.4 – 7.5 | 佐藤 | 内部資料 | 高橋 |
| 2020年9月10日(木) | SLP | Chapter 8.1 – 8.3 | 凛 | 内部資料 | 三田 |
| 2020年9月15日(火) | SLP | Chapter 8.4.1 – 8.4.5 | 尾中 | 内部資料 | 三田 |
| 2020年9月17日(木) | SLP | Chapter 8.4.6 – 8.4.9 | 菊地 | 内部資料 | 三田 |
| 2020年9月24日(木) | SLP | Chapter 8.5 – 8.7 | 浅妻 | 内部資料 | 三田 |
| 2020年10月1日(木) | SLP | Chapter 9.1 – 9.2 | 岸波 | 内部資料 | 清野 |
| 2020年10月6日(火) | SLP | Chapter 9.3 – 9.5 | 神戸 | 内部資料 | 清野 |
| 2020年10月13日(火) | CS224n | Section 2 | 仲村 | 内部資料 | 藤井 |
| 2020年10月20日(火) | CS224n | Section 3 | 藤原 | 内部資料 | 藤井 |
| 2020年10月27日(火) | Embedding book | Chapter 6.1 – 6.3 | 松本 | 内部資料 | 小林G |
| 2020年11月10日(火) | Embedding book | Chapter 6.4 – 6.6 | 佐藤 | 内部資料 | 小林G |
| 2020年11月17日(火) | SLP | Chater 14 – 14.5 (+13.2) | 凛 | 内部資料 | 吉川 |
| 2020年11月24日(火) | SLP | Chater 14.6 – 14.9 | 尾中 | 内部資料 | 吉川 |
| 2020年12月1日(火) | SLP | Chapter 15 – 15.4 | 浅妻 | [内部資料] | 大内 |
| 2020年12月7日（月） | SLP | Chapter 15.5 – 15.7 | 岸波 | 内部資料 | 大内 |
| 2020年12月15日（火） | SLP | Chapter 16 – 16.3 | 神戸 | 内部資料 | 谷中 |
| 2021年2月9日(火) | SLP | Chapter 16.4 – 16.6 | 仲村 | 内部資料 | 谷中 |
| 2021年2月15日(月) | SLP(3rd ed.) | Chapter 17.1-17.2 | 藤原 | 内部資料 | 加藤 |
| 2020年 | SLP(3rd ed.) | Chapter 17.3-17.4 | 松本 | [内部資料] | 加藤 |
| 2020年 | SLP | Chapter 20 – 20.5.0 | 佐藤 | 内部資料 | 今野 |
| 2020年 | SLP | Chapter 20.5.1 – 20.10 | 凛 | [内部資料] | 今野 |
| ↓未確定 | | | | | |
| 2020年 | SLP | Chapter 24 | | [内部資料] | Paul |
| 2020年 | SLP | Chapter 28 | | [内部資料] | 鈴木M |
| 2020年 | SLP | Chapter 29 | | [内部資料] | 佐藤S |
過去の記録
Last-modified: 2023-02-15 (Wed) 16:35:04 (435d)
