2nd-year Doctoral student Ryota Tanaka received the Best Presentation Award at the 31st Doctoral Student Presentations held on July 24th. Congratulations!

7月24日に開催された第31回博士後期課程学生発表会にて、田中涼太（博士課程2年）がベストプレゼンテーション賞を受賞しました。おめでとうございます！

A press release for our work has been published.

株式会社PKSHA Technologyと東北大学言語AI研究センターによる共同開発に関するプレスリリースが公開されました。

• 「PKSHAと東北大学言語AI研究センターが共同研究を開始」

Assistant Professor Reina Akama gave a talk titled “The mechanism and use cases of generative AI” at the 17th Mathematical Neuroscience Pathology, Data Science Seminar held on July 22nd.

7月22日に開催された第17回NCNP脳病態数理・データ科学セミナーにて、赤間怜奈助教が『生成AIの仕組みと活用事例』のタイトルでトークを行いました。

Master students Hiroto Kurita and Steven Charles Coyne defended their Master theses (25min presentation, 15min discussion). Great work, everyone!

研究室メンバーに見守られる中、栗田宙人さん、Coyne Steven Charlesさんの修士論文本審査会（発表25分、試問15分）が行われました。皆さん、おつかれさまでした!

We had a barbecue in honor of new members at a beer garden-style restaurant. The conversation under lanterns was lively, and we had a great time!

新メンバーの歓迎会を兼ねて、ビアガーデン風バーベキューを行いました。風情ある提灯の下で会話もはずみとてもすばらしい会となりました。

The following paper has been accepted to the 25th Annual Meeting of the Special Interest Group on Discourse and Dialogue (SIGDIAL 2024) Demonstration Program.

SIGDIAL 2024 Demo に下記の論文が採択されました。

• Shinnosuke Nozue, Yuto Nakano, Shoji Moriya, Tomoki Ariyama, Kazuma Kokuta, Suchun Xie, Kai Sato, Shusaku Sone, Ryohei Kamei, Reina Akama, Yuichiroh Matsubayashi and Keisuke Sakaguchi.
  “A Multimodal Dialogue System to Lead Consensus Building with Emotion-Displaying”

The following work was presented at the 16th annual International Conference on Education and New Learning Technologies (EDULEARN24), held in Palma, Spain, from July 1st to 3rd.

7月1日から3日にかけてスペインのパルマで開催された EDULEARN24 にて、下記の発表を行いました。

• Momoka Furuhashi, Hiroaki Funayama, Yuya Iwase, Yuichiroh Matsubayashi, Yoriko Isobe, Toru Nagahama, Saku Sugawara and Kentaro Inui.
  “Automatic feedback generation for short answer questions using Answer diagnostic graphs”

The following paper has been accepted to the Conference of Language Modeling (COLM) 2024.

COLM 2024 に下記の論文が採択されました。

• Ana Brassard, Benjamin Heinzerling, Keito Kudo, Keisuke Sakaguchi and Kentaro Inui.
  “ACORN: Aspect-wise Commonsense Reasoning Explanation Evaluation”

The following papers have been accepted to the ACL 2024 Student Research Workshop (SRW).

ACL 2024 SRW に下記の論文が採択されました。

Non-Archival Submissions

• Kazuki Yano, Takumi Ito and Jun Suzuki.
  “STEP: Staged Parameter-Efficient Pre-training for Large Language Models”
• Haruto Yoshida, Keito Kudo, Yoichi Aoki, Ryota Tanaka, Itsumi Saito, Keisuke Sakaguchi and Kentaro Inui.
  “How Well Do Vision Models Encode Diagram Attributes?”

PhD student Ryota Tanaka gave a talk titled “Recent Trends in Document Image Understanding Using Large-Scale Language Models” at the 10th LLM Seminar hold on June 25th.

6月25日に開催された第10回LLM勉強会、社会人博士2年の田中涼太が『大規模言語モデルによる文書画像理解の最新動向』のタイトルでトークを行いました。

Phd student Ryota Tanaka gave a talk titled “Integration of Vision and Language with Large-Scale Language Models” at AI seminar in Okayama University hold on July 9th.

7月9日に開催された岡山大学AI研究会にて、社会人博士2年の田中涼太が『大規模言語モデルによる視覚・言語の融合』のタイトルでトークを行いました。

Assistant Professor Sho Yokoi gave a talk at the Interdisciplinary Symposium Series “Connecting Humanities” at the Joint Graduate School of Digital Humanities(tentative name), Kyushu University, on July 8th.

7月8日に開催された九州大学大学院 人文情報連係学府（仮称・設置認可 申請中）学際シンポジウムシリーズ「接続する人文学：テクストを計算する」にて、横井祥助教が『「確率的なオウム」にできること、またそれがなぜできるのかについて』のタイトルでトークを行いました。

The essay written by Assistant Professor Reina Akama has been published in the July 2024 issue of  “Kodomo no Hon.”

赤間怜奈助教の執筆したエッセイが、月刊「こどもの本」7月号 巻頭「心にのこる一冊」に掲載されました。

Dr. Han Bao from Kyoto University Hakubi Center gave a talk entitled “Self-attention Networks Localize When QK-eigenspectrum Concentrates.” (MiCS)

京都大学白眉センター の包含氏に、「Self-attention Networks Localize When QK-eigenspectrum Concentrates」という表題でご講演いただきました。(みちのく情報伝達学セミナー)

The following works were presented at the 2024 Annual Conference of the North American Chapter of the Association for Computational Linguistics (NAACL 2024) main conference and workshops held in Mexico City from June 16th to 21st.

6月16日から21日にかけてメキシコシティで開催された NAACL 2024 において、Tohoku NLP メンバーが携わる下記7件の発表をおこないました。

Main Conference

• Yoichi Ishibashi, Sho Yokoi, Katsuhito Sudoh and Satoshi Nakamura.
  “Subspace Representations for Soft Set Operations and Sentence Similarities”

Workshop: Student Research Workshop (NAACL SRW 2024)

• Ryohei Kamei, Daiki Shiono, Reina Akama and Jun Suzuki.
  “Detecting Response Generation Not Requiring Factual Judgment”
• Ryosuke Takahashi, Go Kamoda, Benjamin Heinzerling, Keisuke Sakaguchi and Kentaro Inui.
  “The Curse of Popularity: Popular Entities have Catastrophic Side Effects when Deleting Knowledge from Language Models”
• Subaru Kimura, Ryota Tanaka, Shumpei Miyawaki, Jun Suzuki and Keisuke Sakaguchi.
  “Empirical Analysis of Large Vision Language Models against Goal Hijacking via Visual Prompt Injection”
• Daiki Shiono, Shumpei Miyawaki, Ryota Tanaka and Jun Suzuki.
  “Instruction-Following Evaluation for Large Vision-Language Models”

Workshop: 19th Workshop on Innovative Use of NLP for Building Educational Applications (BEA 2024)

• Masato Mita, Keisuke Sakaguchi, Masato Hagiwara, Tomoya Mizumoto, Jun Suzuki and Kentaro Inui.
  “Towards Automated Document Revision: Grammatical Error Correction, Fluency Edits, and Beyond”

Workshop: 21st SIGMORPHON Workshop on Computational Research in Phonetics, Phonology, and Morphology (SIGMORPHON 2024)

• Kosuke Matsuzaki, Masaya Taniguchi, Kentaro Inui and Keisuke Sakaguchi.
  “J-UniMorph: Japanese Morphological Annotation through the Universal Feature Schema”

Dr. Yotaro Watanabe from PKSHA Technology gave a talk entitled “Experienced university faculty, corporate researcher, and start-up engineer”. (MiCS)

株式会社PKSHA Technology の渡邉陽太郎氏に、「大学教員・企業研究者・スタートアップエンジニアを経験して」という表題でご講演いただきました。(みちのく情報伝達学セミナー)

Mr. Yusuke Kaji, Mr. Kenta Naruse and Ms. Saki Kozai from Rakuten Group, Inc. gave a talk entitled “Introduction of LLM development using fine-tuning and model merge, and examples of LLM architecture design and evaluation at Rakuten Group”. (MiCS)

楽天グループ株式会社の梶佑輔氏、成瀬健太氏、小材彩季氏に「楽天グループでのFine-tuning・Model mergeを用いたLLM開発、およびLLMアーキテクチャの設計・評価事例のご紹介」という表題でご講演いただきました。(みちのく情報伝達学セミナー)

We updated our group photo on the members page. Let’s have another great year together!

メンバーページの集合写真を更新しました。これからもどうぞよろしくお願いいたします。

All Lab members extended their congratulations to our secretary Sasaki (Aizawa) for the birth of her son. We wish you a bright and fun, wonderful family life!

3月にお子様が誕生した、秘書の佐々木(旧姓 相澤)知佳さんにスタッフ一同から出産祝いをお贈りしました。明るく楽しい素敵なご家庭を築いてくださいね！

The following five presentations were given at the 38th Annual Conference of the Japanese Society for Artificial Intelligence, 2024 (JSAI2024) held from May 28 to 31.

2024年5月28日から31日にかけて静岡県浜松市で行われた2024年度 人工知能学会全国大会 (第38回)(JSAI2024)において、Tohoku NLP メンバーが携わる下記5件の研究発表が行われました。

5/30(木)

[3F1-GS-10] AI応用：言語モデル　　　2024年5月30日(木) 09:00 〜 10:40 F会場 (イベントホール仮設4)

• [3F1-GS-10-03] 大規模言語モデルの情報推薦バイアスの較正
  〇熊谷 雄介(株式会社博報堂DYホールディングス)、伊藤 郁海(東北大学)、鴨田 豪(東北大学)、横井 祥(東北大学/理化学研究所)
• [3F1-GS-10-04] LLM による前提生成ステップを用いた反論の攻撃力向上手法
  〇尾﨑 大晟(大阪公立大学)、中川 智皓(大阪公立大学/理化学研究所)、内藤 昭一(株式会社リコー/東北大学)、井之上 直也(北陸先端科学技術大学院大学/理化学研究所)、山口 健史(東北大学)、天野 祥太郎(大阪公立大学)、新谷 篤彦(大阪公立大学)

[3Xin2] ポスターセッション1　　　2024年5月30日(木) 11:00 〜 12:40 X会場 (イベントホール1)

• [3Xin2-40] セールストークを対象とするエンゲージメントを考慮した目標指向対話データセット
  〇邊土名 朝飛(サイバーエージェント)、馬場 惇(サイバーエージェント)、赤間 怜奈(東北大学)

5/31(金)

[4K3-GS-10] AI応用：移動　　　2024年5月31日(金) 14:00 〜 15:40 K会場 (44会議室)

• [4K3-GS-10-05] ごく少数の共通情報を活用するデータフュージョン
  〇牛久 雅崇(株式会社博報堂DYホールディングス)、熊谷 雄介(株式会社博報堂DYホールディングス)、横井 祥(東北大学/理化学研究所)

[4Xin2] ポスターセッション2　　　2024年5月31日(金) 12:00 〜 13:40 X会場 (イベントホール1)

• [4Xin2-102] 柔軟な応対が求められる対話タスクでの動的スロットを用いた対話整合性向上
  〇駒田啓伍(東北大学)、阿部香央莉(マシンラーニング・ソリューションズ株式会社/理化学研究所)、守屋彰二(東北大学)、鈴木潤(東北大学/理化学研究所)