リコー　日本語精度が高い130億パラメータの大規模言語モデル（LLM）を開発　春にカスタムLLM提供開始

リコー　2024年1月31日発表

　リコーは、日本企業の業務での活用を目的に、企業ごとのカスタマイズを容易に行える130億パラメータの大規模言語モデル（LLM）を開発したと、1月31日に発表した。
　日本語と英語での学習において、その学習データの比率を工夫することで、日本語としての文法や回答が正確で日本語精度の高い、日本企業が持つ情報資産の活用に適したモデルを実現した。ベンチマークツールを用いた性能検証の結果、日本語で利用できる130億パラメータを持つ日本語LLMにおいて、2024年1月4日現在で最も優れた結果を確認した。

　労働人口減少や高齢化を背景に、AIを活用した生産性向上や付加価値の高い働き方が企業成長の課題となっており、その課題解決の手段として、多くの企業がAIの業務活用に注目している。しかし、AIを実際の業務に適用するためには、企業固有の用語や言い回しなどを含む大量のテキストデータをLLMに学習させ、その企業独自のAIモデル（カスタムLLM）を作成する必要がある。
　このたびリコーが開発したLLMは、米Meta Platforms社が提供する「LLM Llama2-13B」をベースに、日本語と英語のオープンコーパスを追加学習させて開発したものである。(1)学習に利用するコーパスの選定、(2)誤記や重複の修正などのデータクレンジング、(3)学習データの順序や割合を最適化するカリキュラム学習など、リコー独自の学習上の工夫が組み込まれていることが特徴である。学習の結果、特にNLI（自然言語推論能力）において高性能となっている。日本語LLMの性能評価で広く使われている日本語ベンチマークツール（llm-jp-eval）を用いた他LLMモデルとの性能比較では、評価スコアの平均値が最も高く、優れた性能を確認することができた。

　学習能力が高い本LLMに企業独自の情報や知識を取り入れることで、顧客ごとの業種・業務に合わせた高精度なAIモデル（カスタムLLM）を、短期間で容易に構築することが可能になる。カスタムLLMを顧客の業務で活用し、業務文書の要約や質問応答の作業をAIに置き換えることで、業務のワークフローを最適化し、業務効率化を実現する。
　2024年春から、カスタムLLMをクラウド環境で顧客へ提供開始する。まずは日本国内の顧客より提供を開始し、今後海外の顧客への提供も目指す。