3つのソリューションとパートナープログラムもあわせて発表

軽さを誇るNTTのLLM「tsuzumi」開始　オンプレ利用の声に応える

2024年03月25日 18時30分更新

　2024年3月25日、NTTは同社独自の大規模言語モデル「tsuzumi（ツヅミ）」の商用サービス提供を開始した。あわせて3つのソリューションとパートナープログラムを開始し、軽量で日本語に強いという特徴を持つtsuzumiの特徴を活かし、生成AIの企業での利用を加速する。

軽量で日本語に強いtsuzumi　導入相談は500件超え

　2023年11月に発表されたtsuzumiは、NTTが長年の言語処理研究のノウハウを投入した独自の大規模言語モデル（LLM：Large Language Models）。軽量という特徴があり、パラメーター数175B（1750億）のGPT-3に対して、tsuzumiのパラメーター数は1/25の7B（70億）。GPT-3の1/300となる0.6B（6億）の超軽量版も現在開発中だ。

　軽量でありながら、高い日本語性能を持っており、rakudaベンチマークではGPT3.5や国産LLMを上回る性能を実現。発表時に比べて、GPT3.5に対する日本語性能の勝率は約30％アップしている。また、英語性能もMetaのLLAMA2と同等で、図表やイラストなどの視覚的な読解性能も国際的に高い評価を得る。

tsuzumiの特徴

　tsuzumiは軽量・日本語に強いといった特徴のほか、チューニングを低コストで行なえる高いカスタマイズ性や図表読解まで含めたマルチモーダル性も大きい。tsuzumiという名前も、小型の邦楽器であり、チューニングが容易、音や見た目、所作が美しいという邦楽器の鼓にあやかったものだという。

　昨年のtsuzumi発表以降、導入相談は500件以上に上る。8割はいわゆるエンタープライズ企業で、6割以上が個人情報や機密性の高いデータを、クローズでセキュアな環境で学習したいというニーズ。軽量なtsuzumiはパブリッククラウドでの運用も可能だが、企業内のデータを外部に出すことに抵抗感のある企業はオンプレミスやNTTのプライベークラウドで運用できるという。

CX、EX、IT運用サポートの3つのソリューション　パートナープログラムも提供

　導入相談を受けた用途の約3割はCX・顧客対応の改善、約3割はEX・社内業務改善で、残りはIT・運用自動化などになる。商用サービスを機に、ニーズの高いこの3つの用途がソリューションメニューとして提供。コンサルからインフラまでトータルで提供していくという。

tsuzumiについて発表するNTT 代表取締役社長島田明氏

　まずCXソリューションは、コンタクトセンターのオペレーター支援やバックヤードの業務活用を実現する顧客管理ソシューリョン。「バーチャルコンシェルジュ」と呼ばれるデジタルヒューマンとtsuzumiを組み合わせることで、店舗やWebでの自然な顧客とのコミュニケーションを実現する。実際に、富士薬品は自社イベントでデジタルヒューマンとtsuzumiが顧客データに基づいた店舗対応を行なったという。

　またEXソリューションは業界や業務に特化した従業員支援を行なうもの。製造業や金融、流通、サービス、自治体など、さまざまな業界の業務プロセスに応じたプロンプトと業界特化LLMと組み合わせる。議事録作成や要約、業務マニュアル、製品検索、レポート作成、申請書、社内規定、リーガルチェックなどのドキュメント作成を効率化し、生産性を向上する。こちらは福井県でPoCが行なわれており、職員の業務負担の軽減や県民サービスの向上を目指しているという。

　さらにIT運用サポートソリューションも展開される。こちらは文字通り、IT運用の自動化やLLM活用による簡易化で、企業のIT人材の負荷を軽減する。たとえば、セキュリティ対応に関しては、マルウェアや攻撃を検知・分析・対処するために行なうSIEM/SOAR/XDRなどの処理を自動化しつつ、どうしても人手の処理が必要になる操作サポートやセキュリティレポートの生成、脆弱性診断などをtsuzumiにサポートされたAIがアドバイスする。

3つのソリューションで生成AIのビジネス利用をトータルサポート

　こうしたソリューションに加え、2024年5月からはパートナープログラムを開始。サービスへのtsuzumiの組み込みを展開する「ソリューションパートナー」、業界・業務特化モデルの共同開発を行なう「モデルパートナー」、モデルパートナーと共同開発したモデルのインテグレーションを行なう「インテグレーションパートナー」の3種類を前提に、APIの一部を無償提供、スキル育成の支援、メンバーズフォーラムでのパートナー間の情報促進を推進。将来的には軽量AIを同社のIOWNで連携した「AIコンセントレーション」で、巨大LLMより専門性と多様性を掛け合わせた価値創造を実現していくという。