2023 Oct.24

News Release

Release of the Large Language Model “LLM-jp-13B” with 13 Billion Parameters / NII より130億パラメータの大規模言語モデル「LLM-jp-13B」が公開

“LLM-jp-13B”, a large language model with 13 billion parameters, has been released as a result of a project at the LLM Study Group (LLM-jp) hosted by the National Institute of Informatics.

From Tohoku NLP Group, Professor Jun Suzuki and Associate Professor Keisuke Sakaguchi largely contributed to the model training and the training corpus preparation, respectively.

国立情報学研究所（NII）が主宰するLLM勉強会（LLM-jp）の成果である130億パラメータの大規模言語モデル「LLM-jp-13B」が公開されました。
Tohoku NLP グループはこの活動に大きく貢献しており、「LLM-jp-13B」の構築にあたっては鈴木潤教授がモデル構築に、坂口慶祐准教授がコーパス構築に携わりました。

• 130億パラメータの大規模言語モデル「LLM-jp-13B」を構築 ～NII主宰LLM勉強会（LLM-jp）の初期の成果をアカデミアや産業界の研究開発に資するために公開～