An article by Masatoshi Suzuki (3rd-year Ph.D. student) has been published in the 46th volume of the Tohoku University Division for Interdisciplinary Advanced Research and Education newsletter.

東北大学 学際高等研究教育院の会報(vol. 46)に鈴木正敏 (博士3年) の記事が掲載されました。

Our research has been selected for JSPS KAKENHI with the following research topic:

• “Development of elemental technology to integrate deep learning and symbolic reasoning and its application to machine reading comprehension” (Principal Investigator: Masashi Yoshikawa)

日本学術振興会 科研費 研究活動スタート支援に採択されました。研究課題は下記の通りです。

• 深層学習とシンボリックな推論を統合する基礎技術の開発と文章読解システムへの応用（研究代表者：吉川将司）

Our research has been selected for the ACT-X “Frontier of Mathematics and Information Science” grant with the following research topic:

• “The association between the shape of the word embedding space and the meaning of words” (Principal Investigator: Sho Yokoi)

戦略的創造研究推進事業（ACT-X）「数理・情報のフロンティア」領域に採択されました。研究課題は下記の通りです。

• 言葉が埋め込まれた空間の形と言葉の意味の接続（研究代表者：横井祥）

The following paper has been accepted to The Second Workshop Beyond Vision and LANguage: inTEgrating Real-world kNowledge (LANTERN 2020).

LANTERN 2020 に下記の論文が採択されました。

• Diana Galvan-Sosa, Jun Suzuki, Kyosuke Nishida, Koji Matsuda and Kentaro Inui.
  “Seeing the world through text: Evaluating image descriptions for commonsense reasoning in machine reading comprehension”

The following paper has been accepted to the First Workshop on Simple and Efficient Natural Language Processing (SustaiNLP 2020).

SustaiNLP 2020 に下記の論文が採択されました。

• Sosuke Kobayashi, Sho Yokoi, Jun Suzuki and Kentaro Inui.
  “Efficient Estimation of Influence of a Training Instance”

The following papers have been accepted to The 28th International Conference on Computational Linguistics (COLING 2020).

COLING 2020 に下記の論文が採択されました。

• Ryo Fujii, Masato Mita, Kaori Abe, Kazuaki Hanawa, Makoto Morishita, Jun Suzuki and Kentaro Inui
  “PheMT: A Phenomenon-wise Dataset for Machine Translation Robustness on User-Generated Contents”
• Ryuto Konno, Yuichiroh Matsubayashi, Shun Kiyono, Hiroki Ouchi, Ryo Takahashi and Kentaro Inui
  “An Empirical Study of Contextual Data Augmentation forJapanese Zero Anaphora Resolution”
• Takaki Otake, Sho Yokoi, Naoya Inoue, Ryo Takahashi, Tatsuki Kuribayashi and Kentaro Inui
  “Modeling Event Salience in Narratives via Barthes’ Cardinal Functions”
• Takumi Gotou, Ryo Nagata, Masato Mita and Kazuaki Hanawa
  “Taking the Correction Difficulty into Account in Grammatical Error Correction Evaluation”

The following paper has been accepted to the 1st Conference of the Asia-Pacific Chapter of the Association for Computational Linguistics and the 10th International Joint Conference on Natural Language Processing (AACL-IJCNLP).

AACL-IJCNLP 2020 に下記の論文が採択されました。

• Shin Kanouchi, Masato Neishi, Yuta Hayashibe, Hiroki Ouchi and Naoaki Okazaki.
  “You May Like This Hotel Because … : Identifying Evidence for Explainable Recommendations”

The following paper has been accepted to the Fifth Conference on
Machine Translation (WMT20).

WMT20 に下記の論文が採択されました。

• Shun Kiyono, Takumi Ito, Ryuto Konno, Makoto Morishita and Jun Suzuki.
  “Tohoku-AIP-NTT at WMT 2020 News Translation Task”

9月29日〜30日に、オンライン研究室見学会をおこないました。
ご参加いただいた皆さま、ありがとうございました！

東北大学の学部生で乾研究室への配属を考えている方配属を希望する方向けのページを引き続き公開しておりますので、ぜひご利用ください：学部3年生向け研究室紹介

特に、『東北大学 乾・鈴木研究室への配属を検討しているみなさんへ』はご一読いただければと思います。

The following paper has been accepted to the thirty-fourth Conference on Neural Information Processing Systems (NeurIPS 2020).

NeurIPS 2020 に下記の論文が採択されました。

• Sho Takase, Sosuke Kobayashi
  “All Word Embeddings from One Embedding”

Pride Kavumba, congratulations on your graduation. We wish you every success in the future!　

Pride Kavumbaさん（修士2年）、ご修了おめでとうございます。これからの益々のご活躍をお祈り申し上げます。

The following works were presented online at the 15th Symposium of YANS on September 23rd.

9月23日にオンラインで開催されたNLP若手の会 (YANS) 第15回シンポジウムにて、下記10件の発表をおこないました。

• 三田雅人, 谷中瞳
  “文法誤り訂正モデルは文法知識を汎化しているか”
• 小林悟郎, 栗林樹生, 横井祥, 乾健太郎
  “ベクトル長に基づく注意機構と残差結合の包括的な分析”
• 佐藤俊, 大内啓樹, 塙一晃, 佐々木翔大, 乾健太郎
  “訓練過程における予測ラベルの遷移頻度情報を用いた予測確信度計算手法の改善”
• 宮脇峻平, 清野舜, 松林優一郎, 今野颯人, 乾健太郎
  “QA-SRLとのマルチタスク学習による意味役割付与のデータ拡張”
• 岸波洋介, 赤間怜奈, 佐藤志貴, 鈴木潤, 乾健太郎
  “未来の文脈を利用した対話応答生成”
• 神戸隆志, 横井祥, 吉川将司
  “スパン埋め込みと最適輸送に基づく非構成的な句に頑健な文類似性尺度”
• 仲村祐希, 鈴木潤, 高橋諒, 乾健太郎
  “決定的アルゴリズムによる単語分散表現の離散符号化”
• 藤原吏生, 栗林樹生, 乾健太郎
  “日本語言語モデルが選択する文形式の傾向と文脈の影響 ー 主題化・有標語順について”
• 松本悠太, 藤井諒, 阿部香央莉, 舟山弘晃, 三田雅人
  “漢字の意味構造を考慮した複数のニューラル漢字創作システムの比較検討”
• 根石将人, 叶内晨, 大内啓樹
  “宿推薦における抽象的な要求に対する根拠付き推薦文の生成のためのレビュー返信文の活用”

9月21日から22日にかけて、東北大学オープンキャンパスが開催されました。
今年は「オンラインオープンキャンパス」として開催され、乾研究室も以下の展示をおこないました。

• 研究室公開「05 自然言語処理：言葉がわかる人工知能（乾研究室）」
  （東北大学工学部電気情報物理工学科 OPEN CAMPUS NET より）
• 研究室紹介動画「乾研究室《自然言語処理学研究室》」
  （東北大学工学部 2020オープンキャンパス 特設サイトより）

The following papers have been accepted to the 2020 Conference on Empirical Methods in Natural Language Processing (EMNLP).

EMNLP 2020 に下記の論文が採択されました。

Main Conference

• Sho Yokoi, Ryo Takahashi, Reina Akama, Jun Suzuki and Kentaro Inui
  “Word Rotator’s Distance”
• Reina Akama, Sho Yokoi, Jun Suzuki and Kentaro Inui
  “Filtering Noisy Dialogue Corpora by Connectivity and Content Relatedness”
• Goro Kobayashi, Tatsuki Kuribayashi, Sho Yokoi and Kentaro Inui
  “Attention is Not Only a Weight: Analyzing Transformers with Vector Norms”

System Demonstrations

• Takumi Ito, Tatsuki Kuribayashi, Masatoshi Hidaka, Jun Suzuki and Kentaro Inui
  “Langsmith: An Interactive Academic Text Revision System”

Findings

• Masato Mita, Shun Kiyono, Masahiro Kaneko, Jun Suzuki and Kentaro Inui
  “A Self-Refinement Strategy for Noise Reduction in Grammatical Error Correction”

2nd year master students Pride Kavumba defended their Master theses (20min presentation, 10min discussion) under the lab members’ watchful eyes. Great work!

研究室メンバーに見守られる中、修士2年のPride Kavumbaさんの修士論文本審査会（発表20分、試問10分）が行われました。おつかれさまでした!

The “RIKEN Dataset for Short Answer Assessment” (RIKEN-SAA) has been launched by the RIKEN AIP Natural Language Understanding team, led by Prof. Kentaro Inui, via the Informatics Research Data Repository, National Institute of Informatics (NII-IDR). This dataset comprises a set of scoring annotations added to answers to questions written in tests conducted by university preparatory schools and educational affiliates.

乾健太郎教授がリーダーを務める RIKEN AIP 自然言語理解チームは、国立情報学研究所 情報学研究データリポジトリ（IDR）を利用して「理研記述問題採点データセット」(RIKEN-SAA) の提供を開始しました。本データセットは、大学受験予備校や教育関連会社にて行われたテストの記述問題の解答に対し、採点アノテーションを付与したものです。

The following papers were presented at the 58th Annual Meeting of the Association for Computational Linguistics (ACL2020) main conference, system demonstration program, and student research workshop held online from July 5th to 10th.

7月5日から7月10日にかけてオンラインで開催された ACL2020 において、下記11件の発表をおこないました。

Main Conference:

• Naoya Inoue, Pontus Stenetorp and Kentaro Inui.
  “R4C: A Benchmark for Evaluating RC Systems to Get the Right Answer for the Right Reason”
• Hiroki Ouchi, Jun Suzuki, Sosuke Kobayashi, Sho Yokoi, Tatsuki Kuribayashi, Ryuto Konno and Kentaro Inui.
  “Instance-based Learning of Span Representations: A Case Study through Named Entity Recognition”
• Tatsuki Kuribayashi, Takumi Ito, Jun Suzuki and Kentaro Inui.
  “Language Models as an Alternative Evaluator of Word Order Hypotheses: A Case Study in Japanese”
• Shiki Sato, Reina Akama, Hiroki Ouchi, Jun Suzuki and Kentaro Inui.
  “Evaluating Dialogue Generation Systems via Response Selection”
• Masahiro Kaneko, Masato Mita, Shun Kiyono, Jun Suzuki and Kentaro Inui.
  “Can Encoder-decoder Models Benefit from Pre-trained Language Representation in Grammatical Error Correction?”
• Hitomi Yanaka, Koji Mineshima, Daisuke Bekki and Kentaro Inui.
  “Do Neural Models Learn Systematicity of Monotonicity Inference in Natural Language?”
• Ryosuke Kuwabara, Jun Suzuki and Hideki Nakayama.
  “Single Model Ensemble using Pseudo-Tags and Distinct Vectors”

System Demonstration Program:

• Hirofumi Inaguma, Shun Kiyono, Kevin Duh, Shigeki Karita, Nelson Yalta, Tomoki Hayashi and Shinji Watanabe.
  “ESPnet-ST: All-in-One Speech Translation Toolkit”

Student Research Workshop:

• Hiroaki Funayama, Shota Sasaki, Yuichiroh Matsubayashi, Tomoya Mizumoto, Jun Suzuki, Masato Mita and Kentaro Inui.
  “Preventing Critical Scoring Errors in Short Answer Scoring with Confidence Estimation”
• Takuma Kato, Kaori Abe, Hiroki Ouchi, Shumpei Miyawaki, Jun Suzuki and Kentaro Inui.
  “Embeddings of Label Components for Sequence Labeling: A Case Study of Fine-grained Named Entity Recognition”
• Goro Kobayashi, Tatsuki Kuribayashi, Sho Yokoi and Kentaro Inui.
  “Self-Attention is Not Only a Weight: Analyzing BERT with Vector Norms”

AIP Postdoctoral Researcher Benjamin Heinzerling has been recognized as an Outstanding Reviewer at the 58th Annual Meeting of the Association for Computational Linguistics (ACL2020). Congratulations!

AIP特別研究員の Benjamin Heinzerling さんが ACL2020 の Outstanding Reviewers に選ばれました。おめでとうございます！

The following doctoral dissertation has been selected as IPSJ research group recommended doctoral dissertation.

横井祥助教の下記の博士論文が、情報処理学会 2019年度 研究会推薦博士論文に選出されました。

• 横井 祥
  “Computing Co-occurrence with Kernels (カーネル法に基づく共起の計算)”

The following paper has been accepted to the IEEE/ACM Transactions on Audio, Speech, and Language Processing.

IEEE/ACM Transactions on Audio, Speech, and Language Processing に下記の論文が採択されました。

• Shun Kiyono, Jun Suzuki, Tomoya Mizumoto, and Kentaro Inui.
  “Massive Exploration of Pseudo Data for Grammatical Error Correction”