NEC　生成AI「cotomi」を強化　圧倒的な高速性を維持し世界トップレベルの精度を実現

日本電気　2024年11月27日発表

　NECは、顧客を未来へ導く、価値創造モデル「BluStellar(ブルーステラ)」のキーテクノロジーであるNEC開発の生成AI「cotomi」を強化し、日本語ベンチマークにおいて圧倒的な高速性を維持しつつ世界トップクラスの精度を達成した。本モデルは、12月から順次提供開始する。
　また、生成AIの性能を維持しながらもGPUの演算効率を2倍に高める技術も併せて開発した。高速性を維持しつつ精度の高い生成AIにより、実際の業務でストレスのない生成AIの活用を強力に推進できるとともに、AI需要の高まりに伴うGPU不足や電力問題なども改善し、AIをより身近に、かつ快適に活用できる環境づくりに貢献する。

　生成AIの急速な発展により、様々な企業や公共機関が生成AIを活用した業務変革を進めている。これに伴い、より専門性の高い業務に合わせたユースケースや業務システムへの組み込みへの対応など、生成AI自体の機能・性能向上が求められている。一方、今後の生成AI市場の世界需要額は2023年から2030年にかけて約20倍の成長が見込まれている。それに合わせてGPUの需要も急激に増大しており、データセンターにおける消費電力の増加が課題となっている。これらの課題に対しNECは、cotomiの性能強化と使用時のGPUの演算効率を高める技術を開発し環境に配慮した生成AI活用環境を提供する。
　今回、cotomiは性能強化を行い、日本語のLLM(大規模言語モデル)ベンチマーク「Japanese MT-Benchmark」において、ClaudeやGPT-4、QwenなどのグローバルトップレベルのLLMに匹敵する精度を達成した。さらに、Qwenの6倍、GPT-4oの2倍の速度を実現し、圧倒的な推論速度と、高精度を両立させることに成功した。この性能強化により、NECは生成AIを用いた高度な専門業務の自動化を現実のものにする。