概要
中国のMoonshot AIは、2.8兆パラメータの大規模言語モデル「Kimi K3」の完全なモデル重みを7月27日にオープンウェイトで公開する。総パラメータ数の規模としては史上最大級のオープンウェイトモデルとなるが、実際にトークンごとに活性化されるパラメータは約500億にとどまるMoE(混合専門家)構成であり、計算コスト自体は中規模モデル並みに抑えられている。ベンチマーク面では、Artificial Analysis Intelligence Indexで3位、Frontend Code Arenaで1位を獲得するなど、強力なオープンウェイトモデルとして高く評価されている一方、実運用に向けては「重みの総容量が1.4テラバイトに達する」という、これまでとは異なる種類の課題が指摘されている。
技術的な詳細
Kimi K3は、Kimi Delta Attention(KDA)とAttention Residuals(AttnRes)という新しいアテンション機構を採用し、896人の専門家から16人を活性化する「安定化されたLatentMoEフレームワーク」を導入している。これにより、前世代モデル比で約2.5倍のスケーリング効率向上を実現したという。こうした設計は、Gated DeltaNetなど学術界由来のアイデアを土台にしており、業界全体の技術進展を反映したものと位置付けられている。
公開される重みは、MXFP4という4ビット精度フォーマットで圧縮された状態で1.4TBに達する(従来の16ビット精度換算では約5.6TB相当)。この規模のモデルを動かすには、Nvidia BlackwellやAMD MI400級のアクセラレータを搭載したマルチGPU環境が前提となり、8基構成・192GBメモリのノード1台でも、重みを格納した時点でほぼ余裕がない状態になるという。そのため、個人や小規模チームがローカルマシンで実行することは現実的ではなく、「オープンウェイト」とはいえ実際に運用できるのは、クラウドインフラ事業者や十分なハードウェアを持つ大企業、推論専門企業に限られる。加えて、商用利用に関する明確なライセンス条項は公開時点でまだ示されておらず、製品開発への組み込みを検討する場合はリリース時の契約条件の確認が必須となる。
業界への影響と展望
Kimi K3の登場は、単なる一製品のリリースにとどまらず、フロンティア級モデルの世界でもオープンウェイト化が加速しているという戦略的なシグナルとして受け止められている。リリース時期は、Xi Jinping氏がオープンソースAIへのコミットメントを表明した基調講演と重なっており、中国側のオープンウェイト戦略に対するリスク許容度の高さを象徴する出来事だとの見方もある。同時期には、Alibabaが2.4兆パラメータの「Qwen 3.8」をオープンウェイトで発表予定であるほか、DeepSeek V4の完全版リリースも期待されており、中国発の大規模オープンウェイトモデルの競争が一段と激しくなっている。
経済的な観点では、オープンウェイトモデルの拡大はフロンティアモデルを提供する企業の利益率を圧迫する一方、AI技術全体の普及という意味では長期的にプラスに働くとの分析もある。またコスト効率の高さについては、研究者コストの低さや訓練により多くの計算資源を振り向けられる点が、限られたリソースでも競争力のあるモデルを生み出す要因として挙げられている。有識者の間では、現状のように「オープンモデルの性能がクローズドモデルにわずかに遅れている」状態がリスク管理の観点から望ましいとの指摘もあり、今後さらに強力なモデルが登場する中で、独立した第三者評価体制の強化が急務になるとの見解が示されている。