SIG Knowledge Acquisition【知識獲得研究会】

概要

知識獲得に関して，自分の研究の相談を行ったり，みんなで論文を読み，議論を行います．

進め方

esa にまとめた近況報告を会の最初に10〜20分程度でレビューし、その後、論文紹介または進捗報告を持ち回りで行う。

• 近況報告: 参加者は、研究会開始までに esa に近況（会のメンバーと共有したい出来事・必ずしも研究関連でなくてもよい）を数行でまとめる。メンバー全員で簡単にレビューする。
• 論文紹介: 読んで面白かった論文 or 研究会メンバーが知っておくべき論文を紹介する。
  • 論文紹介を行う場合，事前に #_random に告知することを推奨します．
• 進捗報告: 自らの研究について、まとまった時間(発表20分)のプレゼンテーションを行い、今後の方向性について議論を行う。

2018年度 後期

• 日時: 毎週火曜日 16:20-

主な参加者

松田，乾，代勤，鈴木m，佐々木，塙，ディアナ， 中村，伊藤，吉成，佐藤拓

• esa: 閲覧 投稿

予定・記録

• 4/9 (火) 14:40-
  • 鈴木m: 日本語 BERT のお話 内部資料(esa)

• 4/1 (月) 14:40-
  • 伊藤:

• 2/19 (火) 14:40-
  • 中村: JSAI発表練習 内部資料
  • 佐藤拓:NLP2019発表練習 内部資料

• 2/12 (火) 14:40-
  • 塙: Discovery of natural language concepts in individual units. ICLR 2019. paper
  • 松田: みんなで Open IE の勉強をしましょう
    • Mausam, Open Information Extraction Systems and Downstream Applications, IJCAI 2016 (invited paper), Paper, 著者スライド
    • まとめ Open Information Extraction (OpenIE) and Open Relation Extraction (ORE) papers and data.
    • Mingming Sun, Xu Li, Ping Li. EMNLP 2018 Logician and Orator: Learning from the Duality between Language and Knowledge in Open Domain paper

• 1/15 (火) 14:40-
  • NLP2019 原稿レビュー（希望者のみ）

• 1/8 (火) 14:40-
  • 佐々木: 近況 内部資料(esa)
  • 吉成: 料理レシピに対する代替食材推薦タスク 内部資料(esa)

• 12/18 (火) 14:40-
  • 鈴木m: EMNLP2018のおもしろQA論文2選 内部資料
  • ディアナ: Can a Suit of Armor Conduct Electricity? A New Dataset for Open Book Question Answering, EMNLP 2018 内部資料

• 12/11 (火) 14:40-
  • 佐藤拓: 内部資料
  • 伊藤: 内部資料

• 12/04 (火) 14:40-
  • 中村: 内部資料
  • 松田:

• 11/27 (火) 14:40-
  • 塙: 内部資料
  • 伊藤: 内部資料

• 11/20 (火) 14:40-
  • 佐々木: (Cross-lingual) Embedding ✕ EMNLP2018(++) のサーベイ (in progress) 内部資料
  • 吉成: 手順文書の構造表現 内部資料

• 11/13 (火) 14:40-
  • ディアナ:

• 11/6 (火) 14:40-
  • 鈴木m: 質問応答データセットのサーベイ (in progress) 内部資料
  • 代勤: SCIDOCA 発表練習 内部資料

• 10/30 (火) 16:20-
  • 中村: IBIS ポスター発表練習内部資料

• 10/26 (金) 14:40-
  • 松田 論文紹介
  • Do Language Models Have Common Sense?, ICLR 2019 (under review) 論文 参考
  • 佐藤拓 進捗等報告 内部資料

• 10/16 (火) 16:20-
  • 伊藤
  • 塙 Qiaozi Gao, Shaohua Yang, Joyce Y. Chai and Lucy Vanderwende. What Action Causes This? Towards Naive Physical Action-Effect Prediction. ACL2018. original paper

• 10/9 (火) 16:20-
  • 佐々木 進捗報告（モデル削減と未知語対応に向けた単語分散表現の再構築） 内部資料
  • ディアナ Joël Legrand, Yannick Toussaint, Chedy Raïssi and Adrien Coulet. Syntax-based Transfer Learning for the Task of Biomedical Relation Extraction. LOUHI 2018 original paper 内部資料

• 10/1 (月) 16:20-
  • 鈴木m: Christian Buck et al.. Ask the Right Questions: Active Question Reformulation with Reinforcement Learning. ICLR 2018. arXiv 内部資料(esa)
  • 吉成 Semih Yagcioglu, Aykut Erdem, Erkut Erdem, Nazli Ikizler-Cinbis.

RecipeQA: A Challenge Dataset for Multimodal Comprehension of Cooking Recipes. EMNLP2018. original paper 内部資料

• 9/25 (火) 16:20-
  • 中村：進捗報告 内部資料

• 9/10 (月) 16:20- 夏休みのまとめ
  • 松田: 知識ベースの夏 内部資料(esa)
  • ディアナ: 内部資料
  • 鈴木m 内部資料(esa)
  • 佐々木 内部資料(esa)
  • 塙 内部資料(esa)
  • 中村 内部資料(esa)

• 7/30 (月) 16:20-
  • 伊藤
  • 塙 Sudha Rao, Hal Daume III. Learning to Ask Good Questions: Ranking Clarification Questions using

Neural Expected Value of Perfect Information. (ACL 2018) paper

• 7/23 (月) 16:20-
  • ディアナ: 論文紹介
    • CliCR: A Dataset of Clinical Case Reports for Machine Reading Comprehension slides original paper

• 7/9 (月) 16:20-
  • 鈴木: 進捗（させるぞ）報告 内部資料

• 7/2 (月) 16:20-
  • 佐々翔: 論文紹介
    • Danushka Bollegala, Kohei Hayashi, Ken-ichi Kawarabayashi. Think Globally, Embed Locally — Locally Linear Meta-embedding of Words. (IJCAI 2018) arxiv
  • 松田: 大語彙関係抽出器の遠距離教師あり学習 (データ編) 内部資料
    • Hady Elsahar, Pavlos Vougiouklis, Arslen Remaci, Christophe Gravier, Jonathon Hare, Elena Simperl, Frederique Lafores. T-REx: A Large Scale Alignment of Natural Language with Knowledge Base Triples. LREC 2018. paper slide

• 6/25 (月) 16:20-
  • 吉成: 進捗報告 手続きの”まとまり”を捉えたい 内部資料

• 6/18 (月) 16:20-
  • 塙: 論文紹介 original paper

• 6/11 (月) 16:20-
  • 中村: 論文紹介
    • Prathusha Kameswara Sarma. Learning Word Embeddings for Data Sparse and Sentiment Rich Data Sets. NAACL-HLT 2018: Student Research Workshop. original paper, slides
  • 伊藤: 論文紹介
    • Qian Chen, Xiaodan Zhu, Zhen-Hua Ling, Diana Inkpen, Si Wei. Natural Language Inference with External Knowledge. original paper, esa

• 6/4 (月) 16:20-
  • 鈴木: 論文紹介 内部資料
  • ディアナ: 進捗報告 内部資料

• 5/28 (月) 16:20-
  • 吉成: 論文紹介
    • Chloé Kiddon, Ganesa Thandavam Ponnuraj, Luke Zettlemoyer, and Yejin Choi. Mise en Place: Unsupervised Interpretation of Instructional Recipes. EMNLP 2015. original paper annotated paper
  • 松田: 論文紹介
    • Todor Mihaylov, Anette Frank. Knowledgeable Reader: Enhancing Cloze-Style Reading Comprehension with External Commonsense Knowledge. ACL 2018. paper 内部資料

• 5/25 (金) 10:30-
  • 佐々翔 内部資料
  • 塙 内部資料

• 5/14 (月) 16:20-
  • 中村: 話題提供
    • Text Embedding Models Contain Bias. Here’s Why That Matters. April 13, 2018.

Posted by Ben Packer, Yoni Halpern, Mario Guajardo-Céspedes & Margaret Mitchell. link

• 伊藤: 論文紹介
  • Yue Zhang, Qi Liu, Linfeng Song. Sentence-State LSTM for Text Representation. ACL 2018. original paper annotated paper

• 5/7 (月) 16:20-
  • おやすみ

• 4/30
  • おやすみ

• 4/23 (月) 16:20-
  • 鈴木: 論文紹介
    • Bishan Yang and Tom Mitchell. Leveraging Knowledge Bases in LSTMs for Improving Machine Reading. ACL 2017. original paper annotated paper
  • ディアナ: 論文紹介
    • Becker et al., 2017. Classifying Semantic Clause Types: Modeling Context and Genre

Characteristics with Recurrent Neural Networks and Attention. *SEM 2017 Paper Slides

• 4/16 (月) 16:20-
  • 前回話せなかった人スペシャル
    • 松田: 研究紹介 内部資料
    • 鈴木: 研究紹介 内部資料
    • 塙: 研究紹介 内部資料

• 4/10 (火) 14:40-
  • 持ち時間5分で，これまでの研究と今後の方向性について話す
    • 松田: 研究会紹介/OBの研究紹介 (15分程度) 内部資料
    • ディアナ: 研究紹介
    • 佐々木（翔）: 研究紹介 内部資料
    • 伊藤: 研究紹介 内部資料
    • 中村: 研究紹介 内部資料
    • 吉成: 研究紹介 内部資料

参考文献

チュートリアル・招待講演

• Fabian M. Suchanek, Martin Theobald, Gerhard Weikum, Hady W. Lauw and Ralf Schenkel. Semantic Knowledge Bases from Web Sources. IJCAI 2011.
• Marius Pasca. Web-Based Open-Domain Information Extraction. WWW 2011.
• Hans Uszkoreit. Learning Relation Extraction Grammars with Minimal Human Intervention: Strategy, Results, Insights and Plans. CICling 2011.
• Oren Etzioni. Machine Reading at Web Scale. WSDM 2008.
• Tom Mitchell. Learning, Information Extraction and the Web. PKDD 2007.

全般

• Satoshi Sekine. Semantic Knowledge Discovery.
• Oren Etzioni, Michele Banko, Stephen Soderland and Daniel S. Weld. Open Information Extraction from the Web. Communications of the ACM, 2008.
• Andrew Carlson, Justin Betteridge, Richard C. Wang, Estevam R. Hruschka, Jr, Tom M. Mitchell. Coupled semi-supervised learning for information extraction, WSDM 2010.

固有表現抽出

• Patrick Pantel and Deepak Ravichandran. Automatically Labeling Semantic Classes. HLT-NAACL ’04.
• Patrick Pantel and Marco Pennacchiotti. Espresso: Leveraging Generic Patterns for Automatically Harvesting Semantic Relations. Coling-ACL ’06.
• Oren Etzioni, Michael Cafarella, Doug Downey, Ana-Maria Popescu, Tal Shaked, Stephen Soderland, Daniel S. Weld, and Alexander Yates. Unsupervised Named-Entity Extraction from the Web: An Experimental Study. Artificial Intelligence, 165(1), 91-134, 2005.
• Jun’ichi Kazama and Kentaro Torisawa. Exploiting Wikipedia as External Knowledge for Named Entity Recognition. EMNLP ’07.
• Jun Suzuki and Hideki Isozaki. Semi-Supervised Sequential Labeling and Segmentation Using Giga-Word Scale Unlabeled Data. ACL ’08.
• Lev Ratinov and Dan Roth. Design Challenges and Misconceptions in Named Entity Recognition. CoNLL ’09.
• Jenny Rose Finkel and Christopher D. Manning. Nested Named Entity Recognition. ACL ’09.
• Dan Wu, Wee Sun Lee, Nan Ye and Hai Leong Chieu. Domain adaptive bootstrapping for named entity recognition. EMNLP’ 09.
• Ruihong Huang and Ellen Riloff. Inducing Domain-Specific Semantic Class Taggers from (Almost) Nothing. ACL ’10.
• Jenny Rose Finkel and Christopher D. Manning. Hierarchical Joint Learning: Improving Joint Parsing and Named Entity Recognition with Non-Jointly Labeled Data. ACL ’10.
• Stefan Rüd, Massimiliano Ciaramita, Jens Müller and Hinrich Schütze. Piggyback: Using Search Engines for Robust Cross-Domain Named Entity Recognition. ACL ’11.

エンティティ知識獲得

Marius Pasca, Dekang Lin, Jeffrey Bigham, Andrei Lifchits, Alpa Jain. Organizing and Searching the World Wide Web of Facts – Step One: the One-Million Fact Extraction Challenge. AAAI ’06.

関係抽出

• Makoto Miwa and Rune Sætre and Yusuke Miyao and Jun’ichi Tsujii. A Rich Feature Vector for Protein-Protein Interaction Extraction from Multiple Corpora, EMNLP ’09.
• Yee Seng Chan and Dan Roth. Exploiting Syntactico-Semantic Structures for Relation Extraction. ACL ’11.
• Anthony Fader, Stephen Soderland, and Oren Etzioni. Identifying Relations for Open Information Extraction. EMNLP ’11.

含意・因果関係

• Jonathan Berant, Ido Dagan, Jacob Goldberger. Learning Entailment Relations by Global Graph Structure Optimization, Computational Linguistics, Vol. 38, No. 1, Pages 73-111, March 2012.
• Oren Etzioni, Anthony Fader, Janara Christensen, Stephen Soderland, and Mausam. Open Information Extraction: The Second Generation, AAAI 2011.
• Rajat Raina, Andrew Y. Ng, and Christopher D. Manning. Robust textual inference via learning and abductive reasoning, AAAI ’05.
• Nathanael Chambers and Daniel Jurafsky. Unsupervised Learning of Narrative Event Chains, ACL ’08.
• Stefan Schoenmackers and Oren Etzioni and Daniel S. Weld and Jesse Davis. Learning first-order Horn clauses from web text. EMNLP ’10.
• Mark Sammons, V. G. Vinod Vydiswaran and Dan Roth. “Ask not what Textual Entailment can do for You…”. ACL ’10.
• Jonathan Berant, Ido Dagan, and Jacob Goldberger. Global learning of focused entailment graphs. ACL’ 10.
• Raphael Hoffmann, Congle Zhang, Xiao Ling, Luke Zettlemoyer, and Daniel S. Weld. Knowledge-Based Weak Supervision for Information Extraction of Overlapping Relations. ACL’ 11.
• Jonathan Berant, Ido Dagan and Jacob Goldberger. Global Learning of Typed Entailment Rules. ACL’ 11.
• Andrew Carlson, Justin Betteridge, Bryan Kisiel, Burr Settles, Estevam R. Hruschka Jr., and Tom M. Mitchell. 2010. Toward an architecture for neverending language learning. AAAI 2010.
• Peter LoBue and Alexander Yates. Types of Common-Sense Knowledge Needed for Recognizing Textual Entailment. ACL 2011.
• Quang Xuan Do, Yee Seng Chan, and Dan Roth. Minimally Supervised Event Causality Identification, EMNLP 2011.
• Chikara Hashimoto, Kentaro Torisawa, Kow Kuroda, Masaki Murata, and Jun’ichi Kazama. Large-Scale Verb Entailment Acquisition from the Web, EMNLP 2009

過去の記録

• 2017年度
• 2016年度
• 2015年度
• 2014年度
• 2013年度
• 2012年度
• 2011年度