ローカルAI動作チェッカー

判定の見方

よくある質問

VRAMとは何ですか？

GPUに付いている専用のメモリです。ローカルAIはモデルのデータをVRAMに読み込んで計算するため、VRAMの大きさで動かせるモデルの大きさがほぼ決まります。

量子化とは何ですか？

モデルの数値を少ないビット数で表して、サイズを小さくする技術です。Q4_K_M（約4ビット）なら、元のサイズの約3分の1になり、精度の低下もわずかです。迷ったらQ4_K_Mを選んでください。

「MoE」とは何ですか？

Mixture of Experts（専門家の混合）の略で、モデル全体のうち一部だけを使って計算する仕組みです。たとえば「35B（実働3B）」なら、サイズは35B分必要ですが、速さは3Bモデルに近くなります。VRAMに収まらなくても、メインメモリを使って実用的な速度で動きやすいのが特徴です。

MacでもローカルAIは動きますか？

動きます。Apple シリコンのMacは、メインメモリをGPUと共有する仕組みのため、メモリの約7割をVRAMとして使えます。メモリの多いMacは、大きなモデルを動かすのに向いています。

GPUがなくても動きますか？

小さいモデル（数B程度）なら、CPUだけでも動きます。ただし速度はGPUよりかなり遅くなります。

どうやって始めればいいですか？

無料のソフト「Ollama」をインストールし、一覧に表示されているコマンドをターミナル（Windowsならコマンドプロンプト）に貼り付けるだけで始められます。

あわせて読みたい解説記事

計算方法とデータの出典

必要メモリ ＝ モデルのファイルサイズ ＋ KVキャッシュ（会話の記憶に使うメモリ） ＋ 実行用の余裕（約0.9GB）

• ファイルサイズ：Ollamaライブラリの各タグに表示されている実際のサイズを使っています（画像入力用の部品を含みます）。
• KVキャッシュ：Hugging Faceで公開されている各モデルの設定ファイル（config.json）の層数・ヘッド数から計算しています。Qwen3.5系の一部の層や、Gemma 4のスライディングウィンドウ層は、文章が長くなってもメモリがほとんど増えない仕組みを反映しています。
• GPUの使えるメモリ：Macは搭載メモリの約72%、Windows／Linuxは表記どおりのVRAMで計算しています。画面表示などで0.5〜1GBほど使われるため、ぎりぎりの場合は動かないことがあります。
• 速度：GPUのメモリ帯域の約60%を実効値とし、1トークンごとに読み込むデータ量から推定しています。MoEモデルは、実働パラメータ分（共有部分を含め1.3倍）だけ読み込むものとしています。

GPUのスペックはNVIDIA・AMD・Intel・Appleの公式情報をもとにしています。速度はあくまで理論値からの目安で、実測値ではありません。