LLM / VLA 必要VRAM・KVキャッシュ計算機
モデルアーキテクチャ（層数・KVヘッド数・上限コンテキスト長・視覚エンコーダ）ごとにバイト単位で計算し、2進GiB（2³⁰）と10進GB（10⁹）を併記します
🧮 LLM / VLA 必要VRAM・KVキャッシュ容量見積もり（Bytes / GiB / GB 併記）
モデル固有の層数・KVヘッド数・最大コンテキスト長・視覚エンコーダに基づき、内部をバイト（bytes）単位で計算し2進GiB（2³⁰）と10進GB（10⁹）を併記します。
bartowski/Llama-3.3-70B-Instruct-GGUFBF16テンソル本体：141,107,412,992 bytes。公開重みファイル合計：141,107,497,872 bytes。ファイル容量と実行時メモリは異なります。
モデル構成の根拠2 × 80層 × 8 KVヘッド × 128次元 × 8,192 tok × 2 B × Batch 1 = 2,684,354,560 bytes (2.50 GiB / 2.68 GB)GGUF選択時は確認済み配布サイズを基準にし、それ以外の量子化は容量の概算です。実機での動作確認ではありません。FP8とGGUF Q8_0は異なる形式です。尺度・作業領域、画像トークン、OS予約、並列実行、分割方式で実際の必要量が増減します。OpenVLAの視覚重みはモデル重みに含めています。
必要量 136.57 GiB は、単体のコンシューマGPU（最大32GB）を超えます。
1枚で収まるGPUはありません（掲載中の最大は96GB）。複数GPUでモデルを分割するか、量子化を強めるか、GPUクラウドを使う必要があります。
合計容量が必要量を上回る構成（分割前提・動作未検証）：
- NVIDIA RTX PRO 6000 Blackwell Workstation Edition 96GB × 2枚（合計 192GB） 電源・PCIeを計算
- NVIDIA RTX PRO 5000 Blackwell 48GB × 3枚（合計 144GB） 電源・PCIeを計算
- NVIDIA RTX 6000 Ada Generation 48GB × 3枚（合計 144GB） 電源・PCIeを計算
- NVIDIA RTX A6000 48GB (Ampere) × 3枚（合計 144GB） 電源・PCIeを計算
合計VRAMが足りても動くとは限りません。テンソル並列・レイヤー分割に対応した推論エンジン、GPU間の通信帯域、PCIeレーン数、電源容量、筐体と冷却の条件をすべて満たす必要があります。KVキャッシュや作業領域はGPUごとに偏るため、余裕を持たせてください。
試算した容量をもとに、候補と購入時期を決める
必要容量だけで動作可否は決まりません。実行エンジンの対応、作業領域、利用可能メモリを確認してください。
各製品ページでは、希望価格以下や注文受付再開のメール通知を登録できます。確認メールでの同意が必要です。