The following papers have been accepted to The 2021 Conference on Empirical Methods in Natural Language Processing (EMNLP 2021).

EMNLP 2021 に下記の論文が採択されました。

Main Conference

• Kazuaki Hanawa, Ryo Nagata and Kentaro Inui.
  “Exploring Methods for Generating Feedback Comments for Writing Learning”
• Shun Kiyono, Sosuke Kobayashi, Jun Suzuki and Kentaro Inui.
  “Shifted Absolute Position Embeddings for Transformers”
• Ryuto Konno, Shun Kiyono, Yuichiroh Matsubayashi, Hiroki Ouchi and Kentaro Inui.
  “Pseudo Zero Pronoun Resolution Improves Zero Anaphora Resolution”
• Goro Kobayashi, Tatsuki Kuribayashi, Sho Yokoi and Kentaro Inui.
  “Incorporating Residual and Normalization Layers into Analysis of Masked Language Models”
• Naoya Inoue, Harsh Trivedi, Steven Sinha, Niranjan Balasubramanian and Kentaro Inui.
  “Summarize-then-Answer: Generating Concise Explanations for Multi-hop Reading Comprehension”
• Kosuke Yamada, Yuta Hitomi, Hideaki Tamori, Ryohei Sasano, Naoaki Okazaki, Kentaro Inui and Koichi Takeda.
  “Transformer-based Lexically Constrained Headline Generation”

A press release for our work has been published.

東北大学より、栗林樹生（博士2年）、伊藤拓海（博士2年）、乾健太郎教授らの研究成果に関するプレスリリースが公開されました。

• 言葉を処理するAIは人のように「読み滞る」か 高性能なAIと人の認知の間に乖離を確認

Publication Details:
Title: Lower Perplexity is Not Always Human-Like
Authors: Tatsuki Kuribayashi, Yohei Oseki, Takumi Ito, Ryo Yoshida, Masayuki Asahara, Kentaro Inui
Conference: The Joint Conference of the 59th Annual Meeting of the Association for Computational Linguistics and the 10th International Joint Conference on Natural Language Processing (ACLI-JCNLP 2021)

The following papers were presented at the Joint Conference of the 59th Annual Meeting of the Association for Computational Linguistics and the 11th International Joint Conference on Natural Language Processing (ACL-IJCNLP 2021) main conference and student research workshop, held online from August 1st to 6th.

8月1日からオンラインで開催された ACL-IJCNLP 2021 および併催ワークショップにて、下記3件の発表をおこないました。

Main Conference:

• Tatsuki Kuribayashi, Yohei Oseki, Takumi Ito, Ryo Yoshida, Masayuki Asahara and Kentaro Inui.
  “Lower Perplexity is Not Always Human-Like”
  

Student Research Workshop:

• Riki Fujihara, Tatsuki Kuribayashi, Kaori Abe and Kentaro Inui.
  “Topicalization in Language Models: A Case Study on Japanese”
• Masahiro Naito, Sho Yokoi, Geewook Kim, Hidetoshi Shimodaira.
  “Revisiting Additive Compositionality: AND, OR and NOT Operations with Word Embeddings”
  

2nd year Master student Shun Sato received an Excellent Research Award at the 249th IPSJ NLP Conference. Congratulations!

情報処理学会 第249回自然言語処理研究会にて、佐藤俊（修士2年）らの下記の研究が優秀研究賞を受賞しました。おめでとうございます！

• 佐藤俊, 大内啓樹, 塙一晃, 佐々木翔大, 乾健太郎
  “事例ベース推論を行うニューラルモデルの説明性とハブ現象の関係”

The following works were presented at the 249th IPSJ NLP Conference held on July 27th and 28th.

7月27日から28日にかけて開催された情報処理学会 第249回自然言語処理研究会にて、下記の発表をおこないました。

• 阿部香央莉, 北山晃太郎, 松田耕史, 吉川将司, 乾健太郎
  “大規模言語モデルの語彙的関係知識推定における日英間の比較調査”
• 佐藤俊, 大内啓樹, 塙一晃, 佐々木翔大, 乾健太郎
  “事例ベース推論を行うニューラルモデルの説明性とハブ現象の関係”

Two doctoral defenses were held online today. 3rd-year doctoral students, Sosuke Kobayashi and Masato Mita, defended their theses before the lab members. They each took 50 minutes to present their 6 years of work since their senior year of college, and 35 minutes for Q&A session, which was fruitful 85 minutes. Great Job!

研究室メンバーに見守られる中、博士3年の三田雅人さん、小林颯介さんの博士論文本審査会（発表50分、試問35分）が行われました。学部4年から博士後期課程3年までの6年間の研究の集大成がまとめられた、濃い85分間でした。
三田さん、小林さん、おつかれさまでした！

2nd-year Doctoral student Makoto Morishita received the Best Presentation Award at the 25th Doctoral Student Presentations held on July 16. Congratulations!

7月16日に開催された第25回博士後期課程学生発表会にて、森下睦（博士課程2年）がベストプレゼンテーション賞を受賞しました。おめでとうございます！

The following articles have been included in the Journal of Natural Language Processing Volume 28 Number 2.

下記の論文が採録された『自然言語処理』28巻2号が発行されました。

• 藤井諒, 三田雅人, 阿部香央莉, 塙一晃, 森下睦, 鈴木潤, 乾健太郎
  “機械翻訳モデルの頑健性評価に向けた言語現象毎データセットの構築と分析”
• 小林颯介, 横井祥, 鈴木潤, 乾健太郎
  “訓練事例の影響の軽量な推定”

The following paper has been accepted to the IEEE/ACM Transactions on Audio, Speech, and Language Processing.

IEEE/ACM Transactions on Audio, Speech, and Language Processing に下記の論文が採択されました。

• Farjana Sultana Mim, Naoya Inoue, Paul Reisert, Hiroki Ouchi, and Kentaro Inui.
  “Corruption Is Not All Bad: Incorporating Discourse Structure into Pre-training via Corruption for Essay Scoring”

Team Tohoku-AIP-NTT recieved the AMMT Nagao Award. Congratulations!

Team Tohoku-AIP-NTT at WMT-2020 （メンバー：清野 舜, 伊藤 拓海, 今野 颯人, 森下 睦, 鈴木 潤）が、AAMT長尾賞を受賞しました。
おめでとうございます！

Assistant Professor Sho Yokoi gave a lecture at the 3rd 0x-seminar.

6月19日から20日にかけて開催された第3回 0x セミナー「最適輸送の情報科学における進展」にて、横井祥助教が『最適輸送の使い方』という題目で講演を行いました。

The following works have been presented at The 2021 Annual Conference of the North American Chapter of the Association for Computational Linguistics (NAACL 2021) main conference, held online from June 6th to June 11th.

2021年6月6日から6月11日にかけてオンラインで開催された NAACL 2021 において、下記2件の発表を行いました。

Main Conference:

• Pride Kavumba, Benjamin Heinzerling, Ana Brassard and Kentaro Inui.
  “Learning to Learn to be Right for the Right Reasons”
• Sho Takase and Shun Kiyono.
  “Rethinking Perturbations in Encoder-Decoders for Fast Training”

The following three presentations have been given at The 35th Annual Conference of the Japanese Society for Artificial Intelligence, 2021 (JSAI2021) held online from June 8 to 11.

2021年6月8日から11日にかけてオンラインで行われた2021年度 人工知能学会全国大会 (第35回)(JSAI2021)において、下記の3件の研究発表をおこないました。

6/10(木)

11:20 〜 11:40 J会場 (GS会場 5) [3J2-GS-6b] 言語メディア処理：対話

• [3J2-GS-6b-02] 対話システムの先読み能力実現に向けた未来の展開まで生成する学習戦略の提案と分析
  〇岸波 洋介 (東北大), 赤間 怜奈 (東北大/理研), 佐藤 志貴 (東北大), 鈴木 潤 (東北大/理研), 徳久 良子 (東北大), 乾 健太郎 (東北大/理研)

6/11(金)

13:40 〜 14:00 J会場 (GS会場 5) [4J3-GS-6f] 言語メディア処理：データセットとその利用

• [4J3-GS-6f-01] 複単語表現の意味計算を要する文類似度評価データの構築
  〇神戸 隆志 (東北大), 横井 祥 (東北大/理研), 吉川 将司 (東北大/理研), 乾 健太郎 (東北大/理研)

16:20 〜 16:40 I会場 (GS会場 4) [4I4-GS-7e] 画像音声メディア処理：応用

• [4I4-GS-7e-03] 動画キーフレーム物語生成タスクの提案とデータセットの構築
  〇北山 晃太郎 (東北大), 鈴木 潤 (東北大/理研), 清水 伸幸 (ヤフー株式会社)

1st year Master student Yosuke Kishinami recieved the Information Processing Society Tohoku Branch Student Encouragement Award. Congratulations!

岸波洋介（修士1年）が情報処理学会東北支部学生奨励賞を受賞しました。おめでとうございます！

An automatic text scoring system developed at RIKEN Center for Advanced Intelligence Project (AIP) will provide automatic scoring functionality in an online course, starting July 2021 by Yoyogi Seminar (SAPIX YOZEMI GROUP). The automatic text scoring system is based on machine learning and was developed by the Natural Language Understanding Team led by Prof. Kentaro Inui at RIKEN AIP.

This is the result of joint research started in 2017, and laboratory members Hiroaki Funayama (2nd-year master’s student) and Yoriko Isobe (technical staff) made an outstanding contribution.

For more information on the automatic text scoring technology developed by the Natural Language Understanding Team, please refer to Pressrelease by Yoyogi Seminar (Japanese) and Pressrelease by RIKEN AIP (English).

学校法⼈⾼宮学園代々⽊ゼミナールは、乾健太郎教授がリーダーを務める理研 AIP 自然言語理解チームが開発した「記述式AI採点の技術」を活用し、現代文における記述式問題の自動採点を含む高校生向けトレーニング教材の提供を2021年7月に開始します。

これは2017年度より開始した共同研究の成果で、研究室メンバーの舟山弘晃（修士2年）と磯部順子（テクニカルスタッフ）が大きく貢献しました。

詳細は代々木ゼミナールの報道発表資料（外部サイト）および理研 AIP プレスリリース（外部サイト）をご覧ください。

The following papers have been accepted to the 2021 ACL-IJCNLP Student Research Workshop (ACL-IJCNLP 2021 SRW).

ACL-IJCNLP 2021 SRW に下記の論文が採択されました。

Non-Archival Submissions

• Riki Fujihara, Tatsuki Kuribayashi, Kaori Abe and Kentaro Inui.
  “Topicalization in Language Models: A Case Study on Japanese”
• Masahiro Naito, Sho Yokoi, Geewook Kim and Hidetoshi Shimodaira.
  “Revisiting Additive Compositionality: AND, OR and NOT Operations with Word Embeddings”

The following paper received the Denso IT Laboratory Award at the 27th Annual Meeting of Natural Language Processing (NLP2021), and was also given a prize of sake. Lab members held an online drinking party together with the delicious sake, which lighted up the atmosphere.

• Yuki Nakamura, Jun Suzuki, Ryo Takahashi, Kentaro Inui
  “Decisive Word Embedding Contraction” (Denso IT Laboratory Award)

言語処理学会第27回年次大会(NLP2021)にて、下記の論文がデンソーアイティーラボラトリ賞を受賞しました。その副賞にいただいた日本酒をそれぞれ持ち帰り、乾研究室メンバーでオンライン飲み会を開催しました。美味しいお酒に会話の花も咲きました。

• 仲村祐希, 鈴木潤, 高橋諒, 乾健太郎
  “単語埋め込みの決定的縮約”（デンソーアイティーラボラトリ賞）

The following paper was presented at the Ninth International Conference on Learning Representations (ICLR 2021) held online from May 3rd to 7th.

5月3日から7日にかけてオンラインで開催された ICLR 2021 にて、下記の発表を行いました。

• Kazuaki Hanawa, Sho Yokoi, Satoshi Hara and Kentaro Inui
  “Evaluation of Similarity-based Explanations”

The following papers have been accepted to the Joint Conference of the 59th Annual Meeting of the Association for Computational Linguistics and the 11th International Joint Conference on Natural Language Processing (ACL-IJCNLP 2021).

ACL-IJCNLP 2021 に下記の論文が採択されました。

Main Conference

• Tatsuki Kuribayashi, Yohei Oseki, Takumi Ito, Ryo Yoshida, Masayuki Asahara and Kentaro Inui.
  “Lower Perplexity is Not Always Human-Like”

Findings

• Hitomi Yanaka, Koji Mineshima and Kentaro Inui.
  “SyGNS: A Systematic Generalization Testbed Based on Natural Language Semantics”
• Masato Mita and Hitomi Yanaka.
  “Do Grammatical Error Correction Models Realize Grammatical Generalization?”

AIP Postdoctoral Researcher Benjamin Heinzerling has been recognized as an Outstanding Reviewer at the 16th Conference of the European Chapter of the Association for Computational Linguistics (EACL2021). Congratulations!

AIP 特別研究員の Benjamin Heinzerling さんが EACL2021 の Outstanding Reviewer に選ばれました。おめでとうございます！