Three members have been selected as JSPS Research Fellows for the academic year 2025: Hiroto Kurita (Research Fellow DC1), Keito Kudo (Research Fellow DC2), and Masaki Sakata (Research Fellow DC2).

令和7年度（2025年度）日本学術振興会特別研究員に採用されました。

• 栗田 宙人（特別研究員 DC1）
  研究課題「モデル効率化に向けた言語モデルのデータ中心的分析」
• 稲葉 達郎（特別研究員 DC1）
  研究課題「音楽知識を有する記号音楽と言語のマルチモー ダルモデルの作成」
• 工藤 慧音（特別研究員 DC2）
  研究課題「非記号主義的推論計算システム実現に向けた言語モデルの推論機序の解明」
• 坂田 将樹（特別研究員 DC2）
  研究課題「表象の幾何的分析による言語モデルの概念解析」

Three research projects from Tohoku NLP Group has been accepted for Broadening Opportunities for Outstanding young researchers and doctoral students in STrategic areas (BOOST).

国家戦略分野の若手研究者及び博士後期課程学生の育成事業 (BOOST) 次世代AI人材育成プログラム（若手研究者支援）に、Tohoku NLP グループから下記の研究課題が採択されました。

• 日本語が表現する文化的側面の理解と計算のための自然言語処理（研究代表者：赤間 怜奈）
• 大規模基盤モデルのマルチモーダル抽象推論（研究代表者：坂口 慶祐）
• 画像・自然言語・コードの統合理解に基づくマルチモーダルモデル（研究代表者：高橋 いつみ（斉藤 いつみ））

Congratulations on your graduation. We wish you every success in the future!

ご修了おめでとうございます。これからの益々のご活躍をお祈り申し上げます。

The following students received graduation awards. Congratulations!

学位授与式が執り行われ、下記の学生が表彰されました。おめでとうございます！

Tohoku University President’s Award / 総長賞

• 田中 涼太（社会人博士 2年）

Tohoku University President’s Excellent Student Award / 総長優秀学生賞

• 小林 悟郎（博士 3年）

School of Engineering Dean’s Award / 工学部長賞

• 小林 春斗（学部 4年）

Graduate School of Information Sciences Dean’s Award / 情報科学研究科長賞

• 鴨田 豪（修士 2年）

At the graduation ceremony, Goro Kobayashi served as the chief representative delivering the reply speech, while Ryota Tanaka served as the deputy representative. Additionally, at the Graduate School of Information Science’s degree certificate presentation ceremony, Ryota Tanaka served as the chief representative for receiving the degree certificate.

学位記授与式では小林悟郎さんが答辞総代、田中涼太さんが答辞副総代を務めました。また、情報科学研究科の学位伝達式では、田中涼太さんが学位記受領総代を務めました。

Members of the lab gave the following 52 presentations at the 31st Annual Meeting of the Language Processing Society of Japan (NLP2025) held in Nagasaki from March 10 to 14.

2025年3月10日から14日にかけて長崎で行われた言語処理学会第31回年次大会(NLP2025)において、Tohoku NLP メンバーが携わる下記52件の研究発表が行われました。

3/10(月)

チュートリアル1 　　3月10日（月） 13:00-14:30　　A会場

• チュートリアル1：言語モデルの内部機序：解析と解釈
  Benjamin Heinzerling (理研/東北大), 横井 祥 (国語研/東北大/理研), 小林 悟郎 (東北大/理研)

招待論文 (論文賞受賞論文) 　　3月10日（月）17:00-18:40　　A会場

• クイズコンペティションの結果分析から見た日本語質問応答の到達点と課題
  ○有山 知希 (東北大), 鈴木 潤 (東北大/理研), 鈴木 正敏 (Studio Ousia), 田中 涼太 (NTT/東北大), 赤間 怜奈 (東北大/理研), 西田 京介 (NTT)

3/11(火)

P2:ポスター 　　3月11日（火） 10:20-11:50　　ポスター2F

• P2-2 Representational Analysis of Binding in Language Models
  ○代 勤 (東北大), Benjamin Heinzerling (理研), 乾 健太郎 (MBZUAI/東北大学/理研AIP)
• P2-6 LLMにおける内部表現を用いた日本語スタイル制御メカニズムの分析
  ○高橋 良允, 矢野 一樹 (東北大), 成瀬 健太, 武井 美緒, 梶 佑輔 (楽天), 鈴木 潤 (東北大)
• P2-8 Transformer LLMにおける層単位のFFN層の重要度検証
  ○池田 航, 矢野 一樹, 高橋 良允, 李 宰成, 柴田 圭悟 (東北大), 鈴木 潤 (東北大/理研/NII)
• P2-9 言語モデルのパラメータから探るDetokenizationメカニズム
  ○鴨田 豪 (東北大), Benjamin Heinzerling (理研/東北大), 稲葉 達郎 (京大), 工藤 慧音, 坂口 慶祐 (東北大/理研), 乾 健太郎 (MBZUAI/東北大/理研)
• P2-13 「数」に着目したLLMの多言語能力の検証
  ○羽根田 賢和 (フューチャー/東北大), 岸波 洋介, 藤井 諒, 森下 睦 (フューチャー)
• P2-20 言語モデルの内部表現における文法情報の局所性について
  ○佐藤 宏亮, 鴨田 豪 (東北大), Benjamin Heinzerling (理研/東北大), 坂口 慶祐 (東北大/理研)

Q2:ポスター 　　3月11日（火） 10:20-11:50　　ポスター1F

• Q2-17 JHARS: RAG設定における日本語Hallucination評価ベンチマークの構築と分析
  ○亀井 遼平, 坂田 将樹 (東北大), 邊土名 朝飛 (サイバーエージェント/AI Shift), 栗原 健太郎 (AI Shift/サイバーエージェント), 乾 健太郎 (MBZUAI/東北大/理研)
• Q2-25 議論形式のマルチエージェント自動評価の詳細分析
  ○内藤 悠, 佐藤 魁 (東北大), 佐々木 翔大 (SB Intuitions/東北大), 鈴木 潤 (東北大/理研/NII)

D4:テーマセッション2: 人とAIの共生に向けた対話システム・言語使用の研究(3) 　　3月11日（火） 14:50-16:20　　D会場

• D4-2 多面的なユーザ意欲を考慮したセールス対話データセットおよび対話システムの構築と評価
  ○邊土名 朝飛, 馬場 惇, 佐藤 志貴 (サイバーエージェント), 赤間 怜奈 (東北大)

E4:テーマセッション6: 人文学と言語処理(4) 　　3月11日（火） 14:50-16:20　　E会場

• E4-1 線形判別分析の PU 学習による朝日歌壇短歌の分析
  ○加藤 真大 (東大), 浦川 通, 田口 雄哉, 新妻 巧朗, 田森 秀明 (朝日新聞社), 羽根田 賢和, 坂口 慶祐 (東北大), 持橋 大地 (統数研)

P4:ポスター 　　3月11日（火） 14:50-16:20　　ポスター2F

• P4-9 認知言語学的イメージスキーマの生成と解釈における大規模言語モデルと画像生成モデルの評価
  ○本田 恭平 (ブリヂストン), 松﨑 孝介, 吉田 遥音 (東北大), 坂口 慶祐 (東北大/理研)

Q4:ポスター 　　3月11日（火） 14:50-16:20　　ポスター1F

• Q4-6 LLM事前学習の効率化と性質改善： 埋め込み層および出力層のパラメータ固定による再利用
  ○李 宰成, 矢野 一樹, 高橋 良允, 柴田 圭悟, 池田 航 (東北大), 鈴木 潤 (東北大/理研/NII)
• Q4-10 モデル拡張によるパラメータ効率的な LLM の事前学習
  ○矢野 一樹 (東北大), 伊藤 拓海 (東北大/Langsmith), 鈴木 潤 (東北大/理研/NII)
• Q4-17 Padding vs. Packing: 大規模言語モデルのファインチューニングにおける学習効果の検証
  ○塩野 大輝 (東北大), 田中 涼太 (東北大/NTT), 宮脇 峻平, 工藤 慧音, 鈴木 潤 (東北大)
• Q4-18 Transformer LLMの内部挙動改善：隠れ状態ベクトルの数値的収束性の向上
  ○柴田 圭悟, 高橋 良允, 矢野 一樹, 李 宰成, 池田 航 (東北大), 鈴木 潤 (東北大/理研/NII)

3/12(水)

A5:NLPモデルの解釈可能性・分析(1) 　　3月12日（水） 8:30-10:00　　A会場

• A5-1 層の冗長性と層同士の独立性に基づく言語モデルの層交換の成否の特徴づけ
  ○小林 春斗, 原 知正, 鴨田 豪 (東北大), 横井 祥 (国語研/東北大/理研)
• A5-5 定数精度浮動小数点 Transformer Decoder が認識する言語の有限性・余有限性
  ○根岸 直生 (東北大), 谷口 雅弥 (理研), 坂口 慶祐 (東北大/理研), 乾 健太郎 (MBZUAI/東北大/理研)

C5:テキスト生成 　　3月12日（水） 8:30-10:00　　C会場

• C5-6 LLM as a Debate Judge: 学習者ディベーターへの自動フィードバック生成
  ○尾崎 大晟 (大阪公立大), 市野 敬介 (NADE), 松田 拓, 久保 健治 (CoDA), 内藤 昭一 (リコー/東北大), 山口 健史 (東北大), 天野 祥太朗 (大阪公立大), 井之上 直也 (JAIST/理研), 中川 智皓, 新谷 篤彦 (大阪公立大)

D5:テーマセッション5: 言語とコミュニケーションの創発(1) 　　3月12日（水） 8:30-10:00　　D会場

• D5-4 RNNの回帰行列を凍結しても統語構造の獲得は損なわれない
  ○上田 亮 (東大), 栗林 樹生 (MBZUAI), 神藤 駿介 (東大), 乾 健太郎 (MBZUAI/東北大/理研)

P5:ポスター 　　3月12日（水） 8:30-10:00　　ポスター2F

• P5-6 ASCII CHALLENGE−LLMは画家になれるか−
  ○吉田 遥音, 羽根田 賢和 (東北大), 斉藤 いつみ, 坂口 慶祐 (東北大/理研)
• P5-9 生成系タスクの自動評価においてチェックリストの使用は有効なのか？
  ○古橋 萌々香 (東北大/NII), 中山 功太, 児玉 貴志 (NII), 菅原 朔 (NII/NII)

A6:NLPモデルの解釈可能性・分析(2) 　　3月12日（水） 10:20-11:50　　A会場

• A6-1 スパースオートエンコーダーを用いた大規模言語モデルのチェックポイント横断分析
  ○稲葉 達郎 (京大/NII), 乾 健太郎 (MBZUAI/東北大/理研), 宮尾 祐介 (東大/NII), 大関 洋平 (東大), Benjamin Heinzerling (理研/東北大), 高木 優 (NII)

P6:ポスター 　　3月12日（水） 10:20-11:50　　ポスター2F

• P6-6 Anchoring を行う生成的関係抽出
  ○広田 航, 高橋 洸丞 (ストックマーク), Benjamin Heinzerling (理研/東北大), Qin Dai (東北大), 近江 崇宏 (ストックマーク), 乾 健太郎 (MBZUAI/東北大/理研)

Q6:ポスター 　　3月12日（水） 10:20-11:50　　ポスター1F

• Q6-8 日本語文章の可読性評価のための項省略判断モデル
  ○久保田 智天 (東北大), 石月 由紀子 (フリー), 松林 優一郎 (東北大/理研)
• Q6-9 日本語によるコード生成能力の正確な評価に向けて
  ○種口 暁人 (東北大), 藤井 諒, 森下 睦 (フューチャー/東北大), 鈴木 潤 (東北大/理研/NII)
• Q6-14 大規模視覚言語モデルの質感知覚能力の分析
  ○松田 陵佑, 塩野 大輝 (東北大), Ana Brassard (理研/東北大), 鈴木 潤 (東北大/理研/NII)
• Q6-19 Towards Formalizing Socratic Questions for Explainable Socratic Question Generation
  ○Surawat Pothong (Japan Advanced Institute of Science and Technology), Paul Reisert (Beyond Reason), Naoya Inoue (Japan Advanced Institute of Science and Technology), Machi Shimmei, Wenzhi Wang, Shoichi Naito (東北大), Jungmin Choi (理研), Kentaro Inui (Mohamed bin Zayed University of Artificial Intelligence)
• Q6-24 時事情報に関する日本語QAベンチマーク『ニュースQ』
  ○植木 快, 川畑 輝, 田口 雄哉, 新妻 巧朗, 浦川 通, 田森 秀明 (朝日新聞社), 岡崎 直観 (科学大), 乾 健太郎 (MBZUAI/東北大/理研)

A7:NLPモデルの解釈可能性・分析(3) 　　3月12日（水） 13:00-14:30　　A会場

• A7-5 LM は日本の時系列構造をどうエンコードするか
  ○佐々木 睦史, 鴨田 豪, 高橋 良允 (東北大), Benjamin Heinzerling (理研/東北大), 坂口 慶祐 (理研)

C7:音声言語処理 　　3月12日（水） 13:00-14:30　　C会場

• C7-1 SOMO: 音声認識出力の可読性向上を目的とした整文手法の提案
  ○杉野 かおり, 山野 陽祐, 河崎 真琴, 田森 秀明 (朝日新聞社), 岡崎 直観 (科学大), 乾 健太郎 (MBZUAI/東北大/理研)

P7:ポスター 　　3月12日（水） 13:00-14:30　　ポスター2F

• P7-20 大規模言語モデルが持つ抽象推論能力の分析
  ○清野 輝風 (東北大), 青木 洋一, 斉藤 いつみ, 坂口 慶祐 (東北大/理研)
• P7-25 ダイアグラム理解に向けた大規模視覚言語モデルの内部表現の分析
  ○吉田 遥音, 工藤 慧音, 青木 洋一 (東北大), 田中 涼太 (東北大/NTT), 斉藤 いつみ, 坂口 慶祐, 乾 健太郎 (東北大)

Q7:ポスター 　　3月12日（水） 13:00-14:30　　ポスター1F

• Q7-23J クイズコンペティションの結果分析から見た日本語質問応答の到達点と課題
  ○有山 知希 (東北大), 鈴木 潤 (東北大/理研), 鈴木 正敏 (Studio Ousia), 田中 涼太 (NTT/東北大), 赤間 怜奈 (東北大/理研), 西田 京介 (NTT)

3/13(木)

A8:NLPモデルの解釈可能性・分析(4) 　　3月13日（木） 8:30-10:00　　A会場

• A8-1 似た単語の知識ニューロンは似た形成過程を経る
  ○有山 知希 (東北大/理研), Benjamin Heinzerling (理研/東北大), 穀田 一真 (東北大/理研), 乾 健太郎 (MBZUAI/東北大/理研)

B8:言語資源構築 　　3月13日（木） 8:30-10:00　　B会場

• B8-6 Sketch2Diagram: 視覚的指示を入力とするダイアグラム生成
  ○斉藤 いつみ (東北大/理研), 吉田 遥音 (東北大), 坂口 慶祐 (東北大/理研)

C8:NLPのための効率的/低リソース手法 　　3月13日（木） 8:30-10:00　　C会場

• C8-4 モデル拡張を用いた段階的事前学習によるモデル系列の効率的な構築
  ○矢野 一樹 (東北大), 高瀬 翔 (東北大/SB Intuitions), 小林 颯介 (東北大), 清野 舜 (SB Intuitions), 鈴木 潤 (東北大)

D8:対話(1) 　　3月13日（木） 8:30-10:00　　D会場

• D8-4 大規模言語モデルを用いた対話品質評価に関する調査
  ○赤間 怜奈, 鈴木 潤 (東北大/理研)

P8:ポスター 　　3月13日（木） 8:30-10:00　　ポスター2F

• P8-20 SoftMatcha: 大規模コーパス検索のための柔らかくも高速なパターンマッチャー
  ○出口 祥之 (NAIST), 鴨田 豪 (東北大), 松下 祐介 (京大), 田口 智大 (ノートルダム大), 末永 幸平, 和賀 正樹 (京大), 横井 祥 (国語研/東北大/理研)

Q8:ポスター 　　3月13日（木） 8:30-10:00　　ポスター1F

• Q8-3 継続事前学習によるLLMの知識獲得
  ○高橋 洸丞, 近江 崇宏, 有馬 幸介 (ストックマーク), Benjamin Heinzerling (理研/東北大), Qin Dai (東北大), 乾 健太郎 (東北大/理化学研究所(RIKEN)
• Q8-5 日本語バイト符号化マスク言語モデルの開発と分析
  ○工藤 慧音 (東北大/理研), 鴨田 豪, 塩野 大輝 (東北大), 鈴木 潤 (東北大/理研/NII)
• Q8-9 モデルマージを用いたLLM翻訳における破滅的忘却の抑制
  ○岩川 光一, Zhu Haocheng, 鈴木 潤 (東北大), 永田 昌明 (NTT)

C9:情報検索・テキストマイニング 　　3月13日（木） 10:20-11:50　　C会場

• C9-4 VDocRAG: 視覚的文書に対する検索拡張生成
  ○田中 涼太 (NTT/東北大), 壹岐 太一, 長谷川 拓, 西田 京介, 齋藤 邦子 (NTT), 鈴木 潤 (東北大)

D9:対話(2) 　　3月13日（木） 10:20-11:50　　D会場

• D9-4 MQM-Chat: 対話翻訳のための多次元品質指標
  ○Yunmeng Li (東北大), 鈴木 潤 (東北大/理研), 森下 睦 (フューチャー/東北大), 阿部 香央莉 (MLS/東北大/理研), 乾 健太郎 (MBZUAI/東北大/理研)

P9:ポスター 　　3月13日（木） 10:20-11:50　　ポスター2F

• P9-4 Investigating Implicit Reasoning in Counter-Argument Logical Structure Analysis
  ○Wenzhi Wang (東北大/理研), Paul Reisert (Beyond Reason), 内藤 昭一 (東北大/理研/リコー), 井之上 直也 (JAIST/理研), 震明 万智 (東北大), Surawat Pothong (JAIST), Jungmin Choi (理研), 乾 健太郎 (東北大/理研)
• P9-10 発話スタイルの類似とユーザ本人による対話の好ましさの相関
  ○沼屋 征海, 守屋 彰二 (東北大), 佐藤 志貴 (東北大/サイバーエージェント), 赤間 怜奈, 鈴木 潤 (東北大/理研)
• P9-18 バックトラッキングを活用したマルチエージェントシステムによる複数制約充足プランニング
  ○守屋 彰二 (SB Intuitions/東北大), 大萩 雅也 (SB Intuitions)

A10:機械翻訳(2) 　　3月13日（木） 13:00-14:30　　A会場

• A10-3 Towards Equitable Translation: Gender Bias in Large Language Models
  ○Hong Hai Ngo, Yunmeng Li (東北大), 坂口 慶祐 (東北大/理研)

B10:形態素・構文・意味解析 　　3月13日（木） 13:00-14:30　　B会場

• B10-1 不均衡最適輸送を用いた意味変化検出
  ○岸野 稜, 山際 宏明 (京大), 永田 亮 (甲南大/理研), 横井 祥 (国語研/東北大/理研), 下平 英寿 (京大/理研)
• B10-4 JDD-PAS:規範的な日本語日常対話コーパスへの意味役割ラベル・述語項構造付与
  ○吉野 幸一郎 (東京科学大/理研/NAIST), Lee Sangmyeong (NAIST/理研), 波部 英子 (理研), 大村 舞, 浅原 正幸 (国語研), 若狭 絢 (東北大), 赤間 怜奈, 鈴木 潤 (東北大/理研)

E10:テーマセッション3: 認知・脳と自然言語処理(3) 　　3月13日（木） 13:00-14:30　　E会場

• E10-3 大規模言語モデルの浅い層が人間の速い言語処理を再現する
  ○栗林 樹生 (MBZUAI), 大関 洋平 (東大), Souhaib Ben Taieb (MBZUAI), 乾 健太郎 (MBZUAI/東北大/理研), Timothy Baldwin (MBZUAI/メルボルン大)

P10:ポスター 　　3月13日（木） 13:00-14:30　　ポスター2F

• P10-11 対話評価における参照応答集合の妥当性と言語モデルが出力する応答の多様性の関係
  ○佐藤 魁 (東北大), 吉野 幸一郎 (科学大/理研/NAIST), 赤間 怜奈, 鈴木 潤 (東北大/理研)

Our team received the Excellence Award for one work, the Young Researcher Encouragement Award for three works, the Sponsorship Award for 2 works, and the Special Committee Award for 4 works at NLP2025. Congratulations!

言語処理学会第31回年次大会(NLP2025)にて、優秀賞1件、若手奨励賞3件、スポンサー賞2件、委員特別賞4件を受賞しました。
おめでとうございます！

優秀賞：

• 矢野 一樹 (東北大), 伊藤 拓海 (東北大/Langsmith), 鈴木 潤 (東北大/理研/NII)
  “モデル拡張によるパラメータ効率的な LLM の事前学習”

若手奨励賞：

• 池田 航 (東北大)
  “Transformer LLMにおける層単位のFFN層の重要度検証”
• 小林 春斗 (東北大)
  “層の冗長性と層同士の独立性に基づく言語モデルの層交換の成否の特徴づけ”
• 吉田 遥音 (東北大)
  “ダイアグラム理解に向けた大規模視覚言語モデルの内部表現の分析”

スポンサー賞：

• 有山 知希 (東北大/理研), Benjamin Heinzerling (理研/東北大), 穀田 一真 (東北大/理研), 乾 健太郎 (MBZUAI/東北大/理研)
  “似た単語の知識ニューロンは似た形成過程を経る” (日本電気賞)
• 佐々木 睦史, 鴨田 豪, 高橋 良允 (東北大), Benjamin Heinzerling (理研/東北大), 坂口 慶祐 (東北大/理研)
  “LM は日本の時系列構造をどうエンコードするか” (日本経済新聞社 CDIO室賞)

委員特別賞：

• 斉藤 いつみ (東北大/理研), 吉田 遥音 (東北大), 坂口 慶祐 (東北大/理研)
  “Sketch2Diagram: 視覚的指示を入力とするダイアグラム生成”
• 田中 涼太 (NTT/東北大), 壹岐 太一, 長谷川 拓, 西田 京介, 齋藤 邦子 (NTT), 鈴木 潤 (東北大)
  “VDocRAG: 視覚的文書に対する検索拡張生成”
• 守屋 彰二 (SB Intuitions/東北大), 大萩 雅也 (SB Intuitions)
  “バックトラッキングを活用したマルチエージェントシステムによる複数制約充足プランニング”
• 岸野 稜, 山際 宏明 (京大), 永田 亮 (甲南大/理研), 横井 祥 (国語研/東北大/理研), 下平 英寿 (京大/理研)
  “不均衡最適輸送を用いた意味変化検出”

The following paper received the Association for Natural Language Processing Best Paper Award 2024. Congratulations!

有山知希（博士1年）らの下記の研究が言語処理学会2024年度最優秀論文賞を受賞しました。おめでとうございます！

• 有山知希, 鈴木潤, 鈴木正敏, 田中涼太, 赤間怜奈, 西田京介
  “クイズコンペティションの結果分析から見た日本語質問応答の到達点と課題”

The following paper has been accepted to the INTERACTION 2025.

インタラクション2025に下記の論文が採択されました。

• ⾼⽊洋⽻, 守屋彰⼆, 佐藤拓真, 永尾学, 樋⼝啓太
  “⼤規模⾔語モデルを⽤いたロールプレイエージェントの効率的な開発と動作検証のためのフレームワーク”

The following paper has been accepted to the IUI2025.

IUI2025に下記の論文が採択されました。

• Hirohane Takagi, Shoji Moriya, Takuma Sato, Manabu Nagao, Keita Higuchi.
  “A Framework for Efficient Development and Debugging of Role-Playing Agents with Large Language Models”

The following paper has been accepted to the CVPR2025.

CVPR2025 に下記の論文が採択されました。

• Ryota Tanaka, Taichi Iki, Taku Hasegawa, Kyosuke Nishida, Kuniko Saito, Jun Suzuki.
  “VDocRAG: Retrieval-Augmented Generation over Visually-Rich Documents”

The following paper has been accepted to the IEEE Access.

IEEE Access に下記の論文が採択されました。

• Yuki Nakamura, Jun Suzuki, Takumi Ito, Kentaro Inui.
  “Deterministic Compression of Word Embeddings”

Master students Ikumi Ito, Ryohei Kamei, Go Kamoda, Kai Sato, Ryosuke Takahashi, Naoki Negishi, Momoka Furuhashi, Toko Miura, Shoji Moriya and Kazuki Yano defended their Master theses (25min presentation, 15min discussion). Great work, everyone!

研究室メンバーに見守られる中、伊藤郁海さん、亀井遼平さん、鴨田豪さん、 佐藤魁さん、高橋良允さん、根岸直生さん、古橋萌々香さん、三浦東子さん、守屋彰二さん、矢野一樹さんの修士論文本審査会（発表25分、試問15分）が行われました。皆さん、おつかれさまでした!

The following article has been included in the Journal of Nature Machine Intelligence Volume 7 Issue 1.

下記の論文が採録された『Nature Machine Intelligence』7巻1号が発行されました。

• Liwei Jiang, Jena D. Hwang, Chandra Bhagavatula, Ronan Le Bras, Jenny T. Liang, Sydney Levine, Jesse Dodge, Keisuke Sakaguchi, Maxwell Forbes, Jack Hessel, Jon Borchardt, Taylor Sorensen, Saadia Gabriel, Yulia Tsvetkov, Oren Etzioni, Maarten Sap, Regina Rini, and Yejin Choi.
  “Investigating machine moral judgement through the Delphi experiment”

Goro Kobayashi (doctoral student) received the JSPS Ikushi Prize. Congratulations!

博士課程の小林悟郎さんが、下記の研究テーマで第15回（令和6（2024）年度）日本学術振興会 育志賞を受賞しました。
おめでとうございます！

• 小林悟郎
  “トランスフォーマー言語モデルの内部機序の解明”

Doctoral students Ana Brassard, Goro Kobayashi, Ryota Tanaka, Shoichi Naito, Hiroaki Funayama, and Yunmeng Li had their doctoral defense with lab members in the audience. They took 50 minutes to present the culmination of their work, with 35 more minutes for questions and comments. Great job!

研究室メンバーに見守られる中、Ana Brassardさん、 小林悟郎さん、田中涼太さん、内藤昭一さん、舟山弘晃さん、李云蒙の博士論文本審査会（発表50分、試問35分）が行われました。研究の集大成がまとめられた、濃い85分間でした。
皆さんおつかれさまでした！

On Saturday, January 25, 2025, at the event for female middle and high school students titled “What Should Middle and High School Students Do for Their Future in the AI Era?“, Assistant Professor Reina Akama gave a presentation, “What Do Researchers in AI, Mathematics, and Informatics Study?”, and participated in a panel discussion on “What Should Junior and Senior High School Students Do for Their Future in the AI Era?”.

2025年1月25日(土) に行われた女子中高生対象イベント「AI時代、中高生は将来に向けて何をすればいいのか？」にて、赤間怜奈助教が研究者講演「AIや数理・情報の研究者は何を研究しているの？」および、パネルディスカッション「AI時代、中高校生は将来に向けて何をすべきか」に登壇しました。

The following papers have been accepted to the Thirteenth International Conference on Learning Representations (ICLR 2025).

ICLR 2025 に以下の論文が採択されました。

• Makoto Shing, Kou Misaki, Han Bao, Sho Yokoi, Takuya Akiba.
  “TAID: Temporally Adaptive Interpolated Distillation for Efficient Knowledge Transfer in Language Models” (Spotlight)
• Hiroyuki Deguchi , Go Kamoda, Yusuke Matsushita, Chihiro Taguchi, Kohei Suenaga, Masaki Waga, Sho Yokoi.
  “SoftMatcha: A Soft and Fast Pattern Matcher for Billion-Scale Corpus Searches”
• Taishi Nakamura, Takuya Akiba, Kazuki Fujii, Yusuke Oda, Rio Yokota, Jun Suzuki.
  “Drop-Upcycling: Training Sparse Mixture of Experts with Partial Re-initialization”
• Yui Oka, Taku Hasegawa, Kyosuke Nishida, Kuniko Saito.
  “Wavelet-based Positional Representation for Long Context”
• Itsumi Saito, Haruto Yoshida, Keisuke Sakaguchi.
  “Sketch2Diagram: Generating Vector Diagrams from Hand-Drawn Sketches”

The following papers have been accepted to the 2025 Annual Conference of the Nations of the Americas Chapter of the Association for Computational Linguistics (NAACL 2025).

NAACL 2025 に以下の論文が採択されました。

Main Conference

• Jaehyeok Lee, Keisuke Sakaguchi, JinYeong Bak.
  “Self-Training Meets Consistency: Improving LLMs’ Reasoning With Consistency-Driven Rationale Evaluation”
• Dominic Sobhani, Ruiqi Zhong, Edison Marrese-Taylor, Keisuke Sakaguchi, Yutaka Matsuo.
  “Language Models can Categorize System Inputs for Performance Analysis”
• Kazuki Yano, Takumi Ito, Jun Suzuki.
  “STEP: Staged Parameter-Efficient Pre-training for Large Language Models”
• Ahmed Oumar El-Shangiti, Tatsuya Hiraoka, Hilal AlQuabeh, Benjamin Heinzerling, Kentaro Inui.
  “The Geometry of Numerical Reasoning: Language Models Compare Numeric Properties in Linear Subspaces”
• Tatsuya Hiraoka, Kentaro Inui.
  “Repetition Neurons: How Do Language Models Produce Repetitions?”

Findings

• Go Kamoda, Benjamin Heinzerling, Tatsuro Inaba, Keito Kudo, Keisuke Sakaguchi, Kentaro Inui.
  “Weight-based Analysis of Detokenization in Language Models: Understanding the First Stage of Inference Without Inference”

The following paper has been accepted to the International World Wide Web Conference 2025 (WWW2025 | The Web Conf 2025).

WWW2025 に以下の論文が採択されました。

• Dongyuan Li, Satoshi Kosugi, Ying Zhang, Manabu Okumura, Feng Xia, Renhe Jiang.
  “Revisiting Dynamic Graph Clustering via Matrix Factorization”

The interview of Masatoshi Suzuki (Ph.D. acquired in 2021) is now available on “MY DECISION.”

「MY DECISION」に、鈴木正敏さん（2021年博士後期課程修了）のインタビューを公開しました。