Learning Fundamentals of NLP【自然言語処理基礎勉強会2022】
概要
- B4, M1の学生を中心に，自然言語処理の基礎を学ぶため，自然言語処理に関する本の輪講をおこなっています．
目的
- 自然言語処理の基礎を学ぶ
- 自然言語処理関係の英文を読む訓練を行う
教科書
- 第1部
- 黒橋, 柴田『自然言語処理概論』, サイエンス社, 2016
- 第2部
- SLP: Daniel Jurafsky & James H. Martin, “Speech and Language Processing”, 3rd Edition (draft), 2017.
- SLP (2nd ed.): Daniel Jurafsky & James H. Martin, “Speech and Language Processing”, 2nd Edition, 2009.
- Yoav: Yoav Goldberg, “Neural Network Methods for Natural Language Processing”, 2017
- CS224n: Chris Manning (Stanford), CS224n, Natural Language Processing with Deep Learning.
- Web with lecture notes, slides, videos, suggested readings
- CS11-747: Graham Neubig (CMU), CS 11-747, Neural Networks for NLP.
- Embedding book: Mohammad Taher Pilehvar & Jose Camacho-Collados, “Embeddings in Natural Language Processing”, draft, 2020.
References
- 書籍など
- 黒橋『自然言語処理』2015, 奥村『自然言語処理の基礎』2010
- 坪井裕太, 海野裕也, 鈴木潤『深層学習による自然言語処理』, 2017
- 人工知能学会『人工知能学大辞典』, 2017
- Robert A Wilson, Frank C. Keil, 中島秀之監訳『MIT認知科学大辞典』, 2012
- 講義資料など
- Web用語集など
Chapter 11: Machine Translation
進め方
- 1章当たり2,3回かけて担当の人が内容を説明します．SLPについては全訳を作る必要はないですが，英語力に自信のない人は主要な文(パラグラフ)だけでも作りましょう．
- アジェンダ(レジュメ)を配布すると聞いている人の助けになります．
- 最低限キーワードの説明ができるくらいが目標です．キーワードの説明ができなければ他の参考書を当たるなり検索するなりして調べましょう．どの参考書を見ればいいのか分からなければ担当の TA の人に相談してください．
- 第2部を進める際, SLP 3rd Edition.draftの未執筆章については2nd Editionや他の書籍・資料を適宜参照します
スライドを作る上で注意
- アスペクト比は16:9
- ページ番号を振りましょう
- 参考にした書籍やwebページは書籍名・URLを参考資料としてスライドに記載しましょう
2022年度
読む章・TA
第1部
| Chapter | 内容 | TA |
|---|
| 第1章 | はじめに | 工藤 |
| 第2章 | 系列の解析 | 北山 |
| 第3章 | 構文の解析 | 神戸 |
| 第4章 | 意味の解析 | Ana |
| 第5章 | 文脈の解析 | 栗林 |
| 第6章 | ニューラルネットワークの利用 | 青木 |
| 第7章 | 情報抽出と知識獲得 | 有山 |
| 第8章 | 情報検索 | 佐々木 |
| 第9章 | トピックモデル | 吉川 |
| 第10章 | 機械翻訳 | 清野 |
| 第11章 | 対話システム | 成田 |
| 第12章 | まとめ | 長澤 |
第2部
| Book/Course | Chapter | 内容 | TA |
|---|
| SLP (3rd ed.) | Chapter 1 | Introduction | 有山 |
| Yoav | Chapter 1–1.3 | Introduction | 有山 |
| SLP | Chapter 3 | Language Modeling with N-Grams | 伊藤 |
| SLP | Chapter 5 | Logistic Regression | 藤原 |
| SLP | Chapter 6 | Vector Semantics and Embeddings | Benjamin |
| SLP | Chapter 7 | Neural Nets and Neural Language Models | 長澤 |
| SLP | Chapter 8 | Part-of-Speech Tagging | 阿部 |
| SLP | Chapter 9 | Sequence Processing with Recurrent Networks | 塙 |
| SLP | Chapter 11 | Machine Translation | 佐藤 |
| Embedding book | Chapter 6 | Contextualized Embeddings | 小林G |
| SLP | Chapter C | Statistical Constituency Parsing | 松本 |
| SLP | Chapter 14 | Dependency Parsing | 神戸 |
| SLP | Chapter 15 | Logical Representations of Sentence Meaning | 工藤 |
| SLP | Chapter 17 | Information Extraction | 佐々木 |
| SLP | Chapter 19 | Semantic Role Labeling and Argument Structure | Ana |
| SLP | Chapter 21 | Coreference Resolution | 栗林 |
| SLP | Chapter 23 | Question Answering | 青木 |
代打：
日程・担当
ローテーション
(未定)
第1部
| 日時 | 担当部分 | 担当 | 資料 | TA |
|---|
| 2022年2月08日（火） | 第1章 | 大場 | | 工藤 |
| 2022年2月09日（水） | 第2章 | 岩瀬 | 内部資料 | 北山 |
| 2022年2月15日（火） | 第3章 | 藤田 | 内部資料 | 神戸 |
| 2022年2月16日（水） | 第4章 | 伊藤(郁) | 内部資料 | Ana |
| 2022年2月22日（火） | 第5章 | 亀井 | 内部資料 | 栗林 |
| 2022年3月02日（水） | 第6章 | 守屋 | 内部資料 | 青木 |
| 2022年3月01日（火） | 第7章 | 駒田 | 内部資料 | 有山 |
| 2022年3月08日（火） | 第8章 | 根岸 | 内部資料 | 佐々木 |
| 2022年3月09日（水） | 第9章 | 伊藤(郁) | 内部資料 | 吉川 |
| 2022年3月15日（火） | 第10章 | 亀井 | 内部資料 | 清野 |
| 2022年3月23日（水） | 第11章 | 駒田 | 内部資料 | 成田 |
| 2022年3月29日（火） | 第12章 | 根岸 | 内部資料 | 長澤 |
第2部
| 日時 | 担当部分 | 担当 | 資料 | TA |
|---|
| — | Chapter 1–1.4 | 大場 | | 有山 |
| 2022年5月16日（月） | Chapter 1.5–1.6 | 岩瀬 | 内部資料 | 有山 |
| 2022年5月17日（火） | Chapter 1–1.3 | 藤田 | 内部資料 | 有山 |
| 2022年5月23日（月） | Chapter 3–3.3 | 亀井 | 内部資料 | 伊藤(拓) |
| 2022年5月24日（火） | Chapter 3.4–3.5 | 伊藤（郁） | 内部資料 | 伊藤(拓) |
| 2022年5月30日（月） | Chapter 3.6–3-8 | 守屋 | 内部資料 | 伊藤(拓) |
| — | Chapter 5-5.4 | 駒田 | | 藤原 |
| 2022年6月6日（火） | Chapter 5.5-5.9 | 根岸 | 内部資料 | 藤原 |
| 2022年6月13日（月） | Chapter 6–6.3 | 伊藤（郁） | 内部資料 | Benjamin |
| 2022年6月14日（火） | Chapter 6.4–6.7 | 守屋 | 内部資料 | Benjamin |
| 2022年6月20日（月） | Chapter 6.8–6.13 | 亀井 | | Benjamin |
| 2022年6月27日（月） | Chapter 7–7.3 | 根岸 | 内部資料 | 長澤 |
| 2022年6月28日（火） | Chapter 7.4–7.6 | 駒田 | | 長澤 |
| 2022年7月4日（月） | Chapter 8–8.3 | 藤田 | 内部資料 | 阿部 |
| 2022年7月11日（月） | Chapter 8.4 | 岩瀬 | 内部資料 | 阿部 |
| 2022年7月19日（火） | Chapter 9-9.2 | 牧野 | 内部資料 | 塙 |
| 2022年7月25日（火） | Chapter 9.3-9.6 | 穀田 | 内部資料 | 塙 |
| 2022年8月1日（火） | Chapter 10.0-10.3 | 塩野 | 内部資料 | 佐藤 |
| 2022年8月8日（火） | Chapter 10.4 | 坂田 | 内部資料 | 佐藤 |
| 2022年9月16日（金） | Chapter 10.6-10.7 | 葉 | 内部資料 | 佐藤 |
| 2022年9月21日（水） | Chapter 10.8-10.10 | 木村 | 内部資料 | 佐藤 |
| 2022年10月3日（水） | EmbeddingBook 6.1-6.3 | 牧野 | 内部資料 | 小林G |
| 2022年10月11日（火） | EmbeddingBook 6.4-6.7 | 坂田 | 内部資料 | 小林G |
| 2022年10月18日（火） | Chapter C.1-C.3 | 守屋 | 内部資料 | 松本 |
| 2022年10月25日（火） | Chapter C | 駒田 | | 松本 |
| 2022年10月27日（木） | Chapter 14-14.3 | 塩野 | 内部資料 | 神戸 |
| 2022年11月1日（火） | Chapter 14.4 | 木村 | 内部資料 | 神戸 |
| 2022年11月8日（火） | Chapter 14.5-14.7 | 穀田 | 内部資料 | 神戸 |
| 2022年12月2日（木） | Chapter 19.7-19.9 | 木村 | 内部資料 | Ana |
| 2022年12月15日（木） | Chapter 15.1-15.5 | 根岸 | 内部資料 | 工藤 |
| 2022年12月20日（火） | Chapter 15.4-15.6 | 塩野 | 内部資料 | 工藤 |
| 2023年1月24日（火） | Chapter 21-21.1 | 穀田 | 内部資料 | 栗林 |
| Chapter 21.6–21.10 | 葉 | | 栗林 |
| Chapter 23–23.1 | 牧野 | | 青木 |
| 2023年2月9日（木） | Chapter 23.2–23.3 | 鴨田 | 内部資料 | 青木 |
| 2023年2月14日（火） | Chapter 23.4–23.7 | 坂田 | 内部資料 | 青木 |
過去の記録
Last-modified: 2023-02-21 (Tue) 14:45:49 (800d)
