トップ › 解説記事

MoE(Mixture of Experts)とは?大きいのに速いAIモデルの仕組み

更新日:2026年10月3日

ローカルAIのモデル名に「35B-A3B」のような表記を見かけたことはありませんか?これはMoE(Mixture of Experts:専門家の混合)という仕組みを使ったモデルです。この記事では、MoEの仕組みと、ローカルAIで役立つ理由を説明します。

MoEとは

MoEモデルの中には、「エキスパート(専門家)」と呼ばれる小さな部品がたくさん入っています。文章を1文字(1トークン)作るたびに、その場面に合ったエキスパートをいくつかだけ選んで計算します。

大きな病院で、患者ごとに必要な専門医だけが診察するようなイメージです。病院全体の医師は多くても、1人の患者を診るのは数人だけです。

「35B-A3B」の読み方

主なMoEモデルの構成は次のとおりです(各モデルの公式設定ファイルより)。

モデル全体実働エキスパート数1回に使う数
Qwen3.5 35B-A3B35B約3B2568
Qwen3.5 122B-A10B122B約10B2568
Gemma 4 26B-A4B26B約4B1288
gpt-oss 20B21B約3.6B324
gpt-oss 120B117B約5.1B1284

なぜ大きいのに速いのか

ローカルAIの速度は、1トークンを作るたびにメモリから読み出すデータの量でほぼ決まります。

そのため、Qwen3.5 35B-A3Bは、全体の大きさは35Bでも、速さは3〜4Bクラスのモデルに近くなります。

ただし、メモリは全体分が必要

どのエキスパートが選ばれるかは、文章によって毎回変わります。そのため、モデル全体をメモリに置いておく必要があります。Qwen3.5 35B-A3BのQ4版は、ファイルだけで約24GBあります。

「速さは小さいモデル並み、必要なメモリは大きいモデル並み」というのがMoEの特徴です。

ローカルAIでMoEが便利な理由

MoEモデルは、VRAM(GPUのメモリ)に入りきらなくても比較的速く動くのが大きな利点です。

VRAMからはみ出した分はメインメモリに置きますが、メインメモリはVRAMよりずっと遅いです。通常のモデルでは毎回すべてを読むため、はみ出すと急に遅くなります。MoEなら毎回読む量が少ないので、遅いメインメモリでも影響が小さく済みます。

たとえば、VRAM 12GBのRTX 3060でも、メインメモリが32GBあれば、Qwen3.5 35B-A3Bを毎秒20トークン以上で動かせる計算です(RTX 3060 12GBの記事)。

まとめ

MoEモデルが自分のPCで動くかは、ローカルAI動作チェッカーで確認できます。

自分のPCで動くモデルを調べるなら → ローカルAI動作チェッカー