NVIDIA GeForce RTX 4090 24GB

ローカルLLM・VLA目安: 共通比較例：Qwen3-32B GGUF Q4_K_Mの配布ファイルは19,762,149,024 bytes（19.76GB / 18.40GiB）。8,192トークン・1リクエスト・FP16 KVの計画値は合計22.28GiB（KV 2.00GiBを含む）です。配布容量は実VRAM使用量と一致するとは限りません。実機の利用可能バイト数とエンジン対応を確認し、計算機で条件を調整してください。 この24GBのGPUでの目安（4bit量子化・8,192トークン・1リクエスト、公称VRAMの9割以内を基準）：1枚の公称VRAMの9割以内に計画値が収まるモデル：Qwen3-14B（10.9GiB）、Microsoft Phi-4（11.3GiB）、Llama-3.1-8B-Instruct（6.9GiB）、OpenVLA-7B（6.4GiB）。1枚では計画値が超えるモデル：Llama-3.3-70B-Instruct（44.8GiB・公称24GB×3枚相当）、Qwen3-32B（22.3GiB・公称24GB×2枚相当）、Mistral-Large-Instruct-2411（73.6GiB・公称24GB×4枚相当）。複数枚に分ける場合は、モデル分割（テンソル並列・レイヤー分割）に対応した実行エンジンと、GPU間の帯域・電源・冷却の確認が必要です。枚数は容量の単純合計で、動作を保証するものではありません。

電源・スロット・プラットフォーム要件: 試算例：GPU1枚450W＋CPU電力予算230W＋周辺65WでDC 745W。35%の計画余裕では出力容量1100W、効率90%・力率0.99・100Vで入力8.36Aです。実際のCPU設定、瞬間負荷、電源の入力条件、コネクタ・配線・冷却を確認してください。