トップ › 解説記事

RTX 5070・RTX 4070(12GB)で動くAIモデルは?おすすめローカルLLMと速度の目安【2026年版】

更新日:2026年10月3日

RTX 5070やRTX 4070は、ゲーム用として人気の高いVRAM 12GBのGPUです。メモリ帯域(データを読み出す速さ)が広いため、ローカルAIでも軽快に動きます。この記事では、これらのGPUで動くAIモデルを紹介します。

結論:おすすめはこの3つ

動くモデルの一覧

条件:メインメモリ32GB、Q4量子化、コンテキスト8K。数値はローカルAI動作チェッカーによる計算上の目安です。RTX 4070 SUPERとRTX 4070 Tiは、メモリ帯域がRTX 4070と同じ504GB/sなので、RTX 4070の列とほぼ同じになります。

モデル必要メモリRTX 5070RTX 4070判定
Gemma 4 12B約8.7GB約51トークン/秒約39トークン/秒快適
Qwen3.5 9B約7.3GB約61トークン/秒約47トークン/秒快適
Gemma 4 E4B約7.2GB約96トークン/秒約76トークン/秒快適
Llama 3.1 8B約6.5GB約78トークン/秒約61トークン/秒快適
gpt-oss 20B約14GB約52トークン/秒約47トークン/秒一部メインメモリで動く
Qwen3.5 / 3.6 35B-A3B約24GB約28トークン/秒約27トークン/秒一部メインメモリで動く
Gemma 4 26B-A4B約18GB約28トークン/秒約27トークン/秒一部メインメモリで動く
Qwen3.5 / 3.6 27B約17GB約6.8トークン/秒約6.4トークン/秒動くが遅め

RTX 3060 12GBと何が違う?

VRAMは同じ12GBなので、動かせるモデルの種類はほぼ同じです。違うのは速さです。

GPUメモリ帯域Qwen3.5 9Bの速度の目安
RTX 5070672GB/s約61トークン/秒
RTX 4070 / 4070 SUPER504GB/s約47トークン/秒
RTX 3060 12GB360GB/s約34トークン/秒

VRAMに収まるモデルでは、速度はメモリ帯域にほぼ比例します。RTX 5070は、RTX 3060 12GBの2倍近い速さになる計算です。

一方、VRAMからはみ出すモデル(表の35B-A3Bなど)では、メインメモリの速さが足を引っぱるため、GPUによる差が小さくなります。

12GBで大きなモデルを動かすコツ

まとめ

RTX 5070やRTX 4070なら、9B〜12Bクラスのモデルがとても快適に動きます。12GBに収まらない大きなモデルは、MoEモデルを選べば実用的な速さで使えます。

VRAMが同じGPUとの比較はRTX 3060 12GBで動くAIモデルもご覧ください。

自分のPCで動くモデルを調べるなら → ローカルAI動作チェッカー