今回のひとこと
「NTT版LLM の『tsuzumi』の商用サービスを開始する。2023年11月の発表以降、国内を中心に、幅広い業界から500社以上の導入相談がある。金融や自治体といった機密性が高いデータを取り扱う分野からの問い合わせも多い」
（NTTの島田明社長）
まずは軽量版の提供から、GPT3の1/25万でGPT3.5を上回る性能
NTT版LLM（大規模言語モデル）である「tsuzumi」の商用サービスが、2024年3月25日からスタートした。
tszumiには、6億パラメータの超軽量版と、70億パラメータの軽量版の2種類が用意されているが、商用サービスを開始したのは70億パラメータの軽量版だ。
オンプレミス、プライベートクラウド、パブリッククラウドの3つの利用環境での提案とともに、「CXソリューション」、「業界・業務別EXソリューション」、「IT運用サポートソリューション」の3つのソリューションメニューを組み合わせて提供することになる。
NTTの島田明社長は、「tsuzumiには、軽量、高い言語性能、高カスタマイズ性、マルチモーダル性の4つの特徴がある」とし、それぞれの強みをアピールする。
「軽量」では、tsuzumi の70億パラメータというサイズが、GPT-3の25分の1のサイズであり、顧客の持つオンプレミス環境でも動作させることができるため、顧客固有のクローズドデータを使った特化型LLMを構築し、これをセキュアに運用することができる点を強調する。
2つめの「高い言語性能」では、NTTが40年以上に渡って蓄積してきた自然言語処理研究の成果を活かし、世界トップクラスの日本語性能を実現。RakudaベンチマークではGPT-3.5 を上回る性能を発揮し、同パラメターサイズの国産LLMと比較しても、tsuzumiは、それらを大きく上回る性能を発揮しているという。「2023年11月の発表時点よりも、日本語性能はさらに向上しており、GPT-3.5に対するベンチマークでの勝率は81.3%に達した。勝率は、約4カ月間で約30%ポイントも上昇している」と胸を張る。また、英語に関しても、metaのLlama-2-7Bと同程度の性能を発揮していることも示す。
3つめの「高カスタマイズ性」では、機密性の高いデータの学習や、企業特化および業界特化、タスク特化などのカスタマイズやチューニングを低コストで実現。「業界や組織のデータに基づくカスタマイズや、頻繁に情報を追加しなければならない用途でも利用できる」と述べた。
そして4つめの「マルチモーダル性」では、言語に加えて、図表読解などの様々な形式にも対応。PowerPointの資料や、図表、グラフ、商品説明が書かれたマニュアル類などの学習性能も、GPT-3.5やGPT-4を凌ぐ精度になっており、「視覚読解性は、AAAIをはじめとする複数の難関国際会議に採録されている」と報告した。
週刊アスキーの最新情報を購読しよう
本記事はアフィリエイトプログラムによる収益を得ている場合があります