2.8兆パラメータAI「Kimi K3」公開　動かすには1億円超級サーバが必要？

AIで作成

　中国Moonshot AIは7月27日、総パラメータ数2.8兆のAIモデル「Kimi K3」のオープンウェイトをHugging Faceで公開した。同社は7月16日にAPI版を公開した際に、フルウェイトを公開すると予告していた。

　Kimi K3は総パラメータ数2.8兆のMixture of Experts（MoE）モデルで、896の専門家のうち16のみを各トークンで動作させる疎な構成を採用。100万トークンのコンテキスト長に対応するほか、ネイティブな画像入力にも対応するマルチモーダルモデルとなっている。

　公開されたウェイトのデータサイズは約1.5TBクラスに達する。公開から間もなくHugging FaceではコミュニティによるGGUF形式の量子化版も公開されている。ただし、ローカル環境で動かすには依然として大規模なGPUメモリが必要で、一般的なPCで扱える規模ではない。

　公開直後からXやRedditなどでは大きな反響があり、「中国勢のオープンウェイト戦略を象徴するリリースだ」といった声が上がった。一方で、「サイズが大きすぎてローカル実行は現実的ではなく、API経由で利用することになりそうだ」といった感想も目立っている。

ひとこと：公開ウェイトをGPUメモリ上に載せ、実用的な速度で動かすには、NVIDIA H200を12～16基搭載したサーバーなど、総額1億～2億円規模の環境が必要になるとみられます。個人がローカル環境で動かすのは現実的ではありませんが、企業や研究機関にとっては検討可能な規模です。これほど大規模なモデルを第三者が自由に実行・改良できるようになったことで、技術開発が加速する一方、サイバーセキュリティをはじめとする悪用リスクにどう向き合うかも、今後の重要な論点になりそうです。

■関連サイト

• Hugging Face
• ニュースリリース