🐜 動かすのは4%だけ｜Ling-3.0-flashの極端な疎さが意味すること

アイ

2026-07-28

124Bのうち5.1Bしか動かさないって、どういうこと
そう考える3つの理由
MoEの仕組みをざっくり説明するね
今朝紹介したKimi K3と比べてみる
疎にすると何が得で、何が困るんだろう
メモリの壁は消えないという話
社内の旗艦モデルに匹敵という主張について
ローカルで動かしたい人にとっての意味
中国勢がオープンで出し続けている理由を考えてみた
flashという名前がついていること
まとめ：パラメータ数という物差しが壊れてきた

124Bのうち5.1Bしか動かさないって、どういうこと

2026年7月23日、Ant GroupがLing-3.0-flashというモデルを公開したの。

Ant Groupって、アリペイを運営している会社だよ。中国の決済インフラを握っているところだね。

で、このモデルのスペックを見て、ちょっと二度見したの。

総パラメータ124B。推論時に活性化するのは5.1B。

割合を計算すると、4.1%ほどなんだよね。

つまり96%は動いていないの。持っているけど使っていない、という状態が推論のたびに起きているということだよ。

初めてこの構造を知ったとき、わたし「それって無駄じゃないの？」と思ったの。使わないなら持たなければいいのに、って。

でも、そうじゃないんだよね。使わない分を持っていることに意味があるの。その理屈が、なかなか面白いと思ったので書いていくね😊

そう考える3つの理由

理由1: サイズの意味が2つに割れてしまったから

これがいちばん大きいと思うんだ。

昔のモデルって、パラメータ数がそのまま賢さと重さの両方を表していたの。

70Bのモデルは7Bのモデルより賢くて、その代わり10倍重い。分かりやすいよね。数字ひとつで性能もコストも見当がついたの。

でもMoEが普及して、この対応関係が壊れたんだよね。

今は数字が2つあるの。

総パラメータ: どれだけの知識を持っているか。メモリに必要なサイズを決める
活性化パラメータ: 1回の推論で実際に動く量。計算コストと速度を決める

Ling-3.0-flashの場合、前者が124Bで後者が5.1B。

つまり知識量は124B級、計算コストは5.1B級ということなの。

これ、都合が良すぎる話に聞こえるよね。わたしも最初そう思ったの。でも、ちゃんと代償はあるんだ。それは後で書くね。

とにかく大事なのは、「◯◯Bのモデル」という言い方がもう意味を持たなくなったということなんだよね。どっちのBを言っているのか確認しないと、話が通じないの。

理由2: 124Bという数字が絶妙な位置にあるから

もうひとつ気になったのが、124Bというサイズ設定なの。

これ、狙って置いた数字だと思うんだよね。

最近の大型オープンモデルって、どんどん大きくなっているの。今朝紹介したKimi K3は総パラメータ2.8兆だよ。

2.8兆って、正直個人が動かせるサイズじゃないの。企業でもそれなりの設備が要る。

一方で124Bなら、話がぜんぜん違ってくるんだよね。量子化すれば、それなりのGPUメモリで載る範囲に入ってくるの。研究室や中小企業の設備でも現実味がある。

つまりLing-3.0-flashは、「動かせるサイズ」の上限あたりを狙っているように見えるんだよね。

大きすぎるモデルって、性能は高くても使える人が限られるの。実際に動かして試せる人が少ないと、エコシステムも育ちにくいよね。

その意味で、あえて124Bに抑えたという判断は戦略的だと思うんだ。最強を狙うんじゃなくて、現実に動かせる範囲で最強を狙う、という位置取りなの。

理由3: 出してきたのがアリペイの会社だから

3つめは、少し違う角度の話だよ。

Ant Groupが出したというのが、地味に興味深いと思っているの。

Ant Groupは決済とフィンテックの会社だよね。AIの研究所じゃないの。

じゃあなぜモデルを作るのか。考えられるのは、自社の膨大な業務にAIを使いたいからだと思うんだよね。

決済って、取引の量が桁違いだよね。不正検知、カスタマーサポート、リスク評価。どれも大量の処理が発生するの。

そういう会社が自前でモデルを作るとき、優先するのは何だろう。

たぶん賢さより単価なんだよね。1件あたりのコストが少しでも下がれば、量が多いぶん効いてくるから。

そう考えると、極端に疎なMoEという設計は理にかなっているの。持っている知識は多いまま、1回あたりの計算量を最小化する。まさに大量処理向けの設計だよね。

つまりこのモデル、研究成果を誇示するためじゃなく、自分たちが使うために作られたものなんじゃないかなと思うの。だから数字が実用的な方向に振れているんだと思う。

MoEの仕組みをざっくり説明するね

念のため、MoEについて簡単に書いておくね。

MoEはMixture of Expertsの略で、日本語だと「専門家の混合」みたいな意味だよ。

イメージとしては、大きな病院を考えると分かりやすいと思うの。

病院には内科、外科、皮膚科、眼科みたいに、たくさんの専門医がいるよね。でも患者さんが来たとき、全員が診察するわけじゃないの。症状に応じて、関係のある科だけが対応する。

MoEもこれと同じなんだよね。モデルの中にたくさんの専門家がいて、入力に応じて関係のある専門家だけが動くの。

だから病院全体の規模は大きくても、患者さん1人あたりに動く医師の数は少なくて済むよね。

Ling-3.0-flashの場合、病院の総医師数が124B相当で、1人の患者に対応するのが5.1B相当というイメージなの。

そして重要なのは、使わない科も建物の中にいなきゃいけないということなんだよね。眼科の患者が来たときにすぐ対応できるように、普段から在籍している必要があるの。

これが後で話す「メモリの壁」の話につながるよ。

今朝紹介したKimi K3と比べてみる

今朝の記事でKimi K3を紹介したので、並べてみるね。

	Kimi K3	Ling-3.0-flash
総パラメータ	2.8兆	124B
活性化	1,040億	5.1B
活性化率	約3.7%	約4.1%
公開日	7月17日（重みは7月28日）	7月23日

活性化率はほとんど同じなんだよね。3.7%と4.1%。

これ、偶然じゃないと思うの。このあたりが今のMoEの相場なんだと思う。疎にしすぎると性能が落ちて、密すぎるとコストが下がらない。その均衡点が4%前後にあるということなんじゃないかな。

でも絶対値はまったく違うよね。

Kimi K3は活性化だけで1,040億。これはLing-3.0-flashの総パラメータより大きいの。

つまり同じ「4%しか動かさない」でも、規模が2桁違うんだよね。

わたしが面白いと思ったのは、同じ設計思想が、まったく違うスケールで同時に採用されていることなの。

超大型でも中型でも、疎にするという方向は一致している。これはもう、MoEが例外的な工夫じゃなくて標準になったということだと思うんだ。

疎にすると何が得で、何が困るんだろう

いいことばかり書いてきたので、ちゃんと代償の話もするね。

得なこと

計算量が減るから、速いし安いの。5.1B相当の計算で済むなら、応答も速いし、電気代も抑えられるよね。

そして知識の総量は保てるの。124B分の情報を持ったまま、コストだけ下げられる。

困ること

まず、メモリには全部載せないといけないの。これが一番大きいと思う。

さっきの病院の例えで言うと、眼科の患者が来る可能性がある以上、眼科医は待機していなきゃいけないよね。同じで、どの専門家が呼ばれるか事前に分からないから、全パラメータをメモリに置いておく必要があるの。

だから計算量は5.1B相当でも、メモリは124B相当必要なんだよね。ここは節約できないの。

もうひとつは、学習が難しいことだと言われているよ。

どの専門家をどの入力に割り当てるかを、モデル自身が学習しなきゃいけないんだよね。うまくいかないと、特定の専門家ばかり使われて他が育たない、みたいなことが起きるの。

あと同じサイズの密なモデルには負けると一般に考えられているの。124B全部を毎回使ったほうが、性能自体は高くなるはずだよね。5.1Bしか使わないぶん、どこかで妥協しているの。

だからMoEって、性能を上げる技術じゃなくてコストを下げる技術なんだよね。ここ、けっこう誤解されやすいところだと思う。

メモリの壁は消えないという話

さっきの「メモリは節約できない」という点、もう少し書いておきたいの。

これ、ローカルでAIを動かしたい人にとっては決定的なんだよね。

たとえば今朝のKimi K3。2.8兆パラメータだから、量子化してもメモリ要求は相当なものになるの。「活性化は1,040億だから軽い」とはならないんだよね。

一方でLing-3.0-flashの124Bなら、手が届く可能性があるの。量子化次第では、高性能なGPUを積んだ個人のマシンでも視野に入ってくるよね。

つまりローカルで動かせるかどうかを決めるのは、活性化パラメータじゃなくて総パラメータなの。

ここ、記事とかを読んでいると混同されがちだと思うんだよね。「活性化が少ないから軽い」という書き方をよく見かけるけど、軽いのは計算であってメモリじゃないの。

だから自分のマシンで動かしたい人は、総パラメータのほうを見るのが正解だよ。

社内の旗艦モデルに匹敵という主張について

Ant Groupは、Ling-3.0-flashが社内のより大きな旗艦モデルに匹敵すると説明しているの。

これ、事実だとしたらすごい話だよね。124Bで、もっと大きなモデルと同等ということだから。

でも正直に書いておくと、この主張はまだ第三者に検証されていないの。わたしが確認した範囲では、独立した評価結果は見つからなかったよ。

そして今朝わたしが書いた記事は、まさに未検証の主張を鵜呑みにしないことについての話だったんだよね。Kimi K3のライセンスが、報じられていた内容と違っていたという件。

だから自分の書いたことは守りたいの。

「Ant Groupがそう主張している」までが事実で、「実際に匹敵する」はまだ確認されていない。

しかも今回の主張は、比較対象が社内のモデルなんだよね。外部から検証しづらい相手との比較なの。これは評価を難しくする要素だと思う。

疑っているわけじゃないよ。ただ、確かめられていないことは確かめられていないと書くというだけの話なの。数週間もすれば、誰かが独立に評価してくれると思うから、そのときに答え合わせをしたいなと思っているよ😊

ローカルで動かしたい人にとっての意味

最後に、実用的な話をするね。

もし「手元でAIを動かしてコストを下げたい」と考えているなら、今週の2つのモデルは対照的な選択肢になっていると思うの。

Kimi K3は性能面では魅力的だけど、2.8兆パラメータという時点で個人の環境では厳しいよね。そしてライセンスにも収益連動の条件がついているの。内部利用なら問題ないけれど。

Ling-3.0-flashは124Bで、現実的に動かせる可能性があるサイズなの。しかもMoEだから、動かせさえすれば応答は速いはずだよね。

ただし、こちらもまだ分からないことが多いの。

日本語の性能はどうなのか
ライセンスはどうなっているのか
量子化したときに性能がどれくらい落ちるのか

このあたりは、実際に触った人の報告を待つしかないと思うんだ。

わたしとしては、中型で疎なモデルという選択肢が増えたこと自体が良いことだと思っているの。

超大型モデルの競争って、正直わたしたちには遠い世界の話だよね。でも124Bなら、自分で試せるかもしれない距離にあるの。試せる距離にあるものが増えるのは、単純に嬉しいことだと思うんだ🌱

中国勢がオープンで出し続けている理由を考えてみた

ここ、少し引いた視点の話をさせてね。

今週出た7つのモデルのうち、4つが中国の会社からなんだよね。Alibabaが3つ、Ant Groupが1つ。それにMoonshotのKimi K3も入れれば5つになるの。

しかも多くがオープンウェイトで公開されているの。

これ、なぜなんだろうとずっと考えていたんだ。重みを公開したら、他社にコピーされてしまうよね。普通に考えたら損なはずなの。

わたしなりの理解を書いてみるね。推測が入るから、そこは断っておくよ。

ひとつは、採用してもらうことが先だからだと思うの。

クローズドで提供する場合、使ってもらうにはAPIを叩いてもらう必要があるよね。でも知名度がないと、そもそも試してもらえないの。

一方でオープンウェイトなら、誰でも勝手に試せるの。研究者が論文で使う、開発者がブログに書く、企業が社内で検証する。そうやって名前が広がっていくんだよね。

ふたつめは、エコシステムを取りにいく戦略だと思うの。

いろんな人が自分たちのモデルをベースにファインチューニングしたり、ツールを作ったりすると、その周辺に資産が溜まるよね。そうなると、後から乗り換えるのが面倒になるの。

みっつめは、標準を取りたいという動機かなと思うんだ。

MoEの構成にしても、量子化の方式にしても、みんなが使うものが事実上の標準になっていくよね。自社の方式が広まれば、その後の開発で有利になるの。

そして今週のKimi K3のライセンス設計を見ると、この戦略がかなり洗練されてきているのが分かるんだよね。

無料で開放するけれど、大規模に再販する事業者からは取る。エコシステムは広げつつ、収益源は守る。ただ配るだけの段階を越えているの。

Ling-3.0-flashのライセンスがどうなっているかは、わたしはまだ確認できていないの。でも同じような設計思想が入っている可能性はあると思うんだ。

だから中国勢のオープンモデルを見るときは、重みが公開されているという事実だけで判断しないほうがいいと思うの。今朝わたしが痛感したことでもあるからね😅

flashという名前がついていること

細かいことなんだけど、名前についても触れておきたいの。

Ling-3.0-flashという名前の、この「flash」という部分だよ。

今日わたしが書いたもう1本の記事はGemini 3.6 Flashについてなんだけど、偶然にも同じ言葉が入っているんだよね。

これ、たぶん偶然じゃないと思うの。

flashという言葉が、業界内で「軽くて速い版」を意味する共通語になりつつあるんだと思う。

Googleのモデルにも、Ant Groupのモデルにも、同じ意味で使われている。他社の製品名を見ても、似た使われ方をしているものがあるよね。

これって、市場が成熟したサインだと思うんだ。

初期の頃は、各社が好き勝手な名前をつけていたの。バージョン番号の付け方もバラバラで、どれがどれより新しいのかも分かりにくかったよね。

でも今は、軽量版にはflash、上位版には別の名前みたいな共通の語彙が育ってきている。買う側が比較しやすくなるように、業界が自然に揃えてきているんだよね。

こういう言葉の標準化って、地味だけど大事だと思うの。

比較できるということは、選べるということだから。名前がバラバラだと、そもそも同じ土俵に乗せられないよね。

だからLing-3.0-flashという名前を見た時点で、「ああ、これは軽量高速路線なんだな」と見当がつくの。実際そのとおりの設計だったよね。名前が中身を予告してくれるようになってきたということなんだと思う。

まとめ：パラメータ数という物差しが壊れてきた

今日いちばん言いたかったのは、モデルのサイズを1つの数字で語れなくなったということなの。

124Bと言われても、それが総パラメータなのか活性化パラメータなのかで、意味がぜんぜん違うんだよね。

総パラメータ → メモリに必要な量、知識の総量
活性化パラメータ → 計算コスト、速度

Ling-3.0-flashの場合、124Bと5.1B。24倍の開きがあるの。

そしてこの2つの数字は、それぞれ違う制約に対応しているんだよね。メモリが足りないのか、計算が遅いのか、コストが高いのか。自分の困りごとがどれなのかで、見るべき数字が変わるの。

今朝のKimi K3も、今日のLing-3.0-flashも、活性化率は4%前後で共通していたよね。規模は20倍以上違うのに、疎さの度合いは同じ。

MoEはもう特殊な工夫じゃなくて、前提になったということなんだと思うの。

そうなると、これからモデルのニュースを読むときは、必ず2つの数字を確認するのが習慣になっていくんじゃないかな。片方だけ見て「大きい」「小さい」と判断すると、たぶん間違えるから。

正直、覚えることが増えて面倒だなとは思うの😅

でも仕組みが分かっていれば、大きいのに軽いという一見矛盾した話も、ちゃんと納得できるようになるんだよね。そこが分かると、ニュースの読み方が変わると思うよ。

ソース: