ローカルLLMの費用｜見落としがちな5コスト

はじめに

「120万円のワークステーションを買えば、あとは無料ですよね」

ローカルLLMの検討会で、こんな計算を置いたとする。36か月使えば機材費は月3.3万円。クラウドAPIへ毎月10万円払うより安い。数字だけを見ると、すぐに購入したくなる。

ところが、モデル更新に毎月半日かかる。同時利用が増えると待ち時間が伸びる。回答品質を確認する担当者も必要になる。故障時の代替機がなければ、業務自体が止まる。

ローカルLLMの費用は、GPUやMacの価格だけでは決まらない。機材、電力、運用、品質、可用性を月額へ直した総保有コストで比べる必要がある。価格相場を並べるのではなく、モデル適合表、同時実行要件、障害時の切替仕様まで見積条件にする。

ローカルLLMの費用は「買い切り」ではない

ローカルLLMは、自社のPCやサーバーでモデルを動かす構成だ。入力を外部のモデルAPIへ送らずに処理でき、閉域環境でも使える。一方で、クラウド事業者が担っていた機材調達、更新、監視、障害対応を自社側へ引き取る。

日本総研のローカルLLM調査も、メリットとデメリットに加えて、構成パターン、業界別ユースケース、技術課題まで分けている。推論1回の単価だけで判断できないテーマだ。

AppleはWWDC26で、MLX、MLX-LM、OpenAI互換のローカルサーバー、エージェント層という4層の構成を紹介した（Run local agentic AI on the Mac using MLX）。ローカルで動くこと自体は身近になった。だが、個人の実験を複数人の業務へ広げると、同時処理、権限、ログ、更新が費用へ加わる。

見積もりでは、次の5項目を同じ月額へ換算する。

ローカルLLMの費用を分ける5項目

1. 機材費：購入額を利用月数で割る

最初の式は単純だ。

月額機材費 = 本体・増設・保守部材の合計 ÷ 想定利用月数

120万円の機材を36か月使うなら、月額は約3.3万円になる。ただし、本体だけで終わらない。

• メモリやストレージの増設
• UPSやバックアップ用ストレージ
• 設置、初期構築、ネットワーク分離
• 保証延長や交換部材

モデルの規模を先に決めず、「大きい方が安心」と機材を選ぶと過剰投資になりやすい。ローカルLLM構築の費用解説では、検証用PCからオンプレミスサーバーまで費用帯が大きく異なる。価格表をそのまま使うより、対象業務で必要な精度、応答時間、同時利用者数から構成を逆算したい。

試作では、手元の機材で小型モデルを動かす。業務データ100件程度で品質と速度を測り、足りない理由がモデルなのか、検索なのか、プロンプトなのかを分ける。原因が分かる前に大型GPUを買わない。

2. 電力と設備費：平均消費電力で計算する

電力は最大消費電力ではなく、実測した平均値で出す。

月額電力費 = 平均消費電力kW × 稼働時間 × 稼働日数 × 電力単価

仮に平均0.8kW、1日8時間、月22日、1kWhあたり31円なら約4,365円だ。24時間稼働なら同じ機材でも数字は変わる。複数GPUのサーバーでは、冷却、ラック、データセンター、ネットワークの費用も足す。

ここで見落としやすいのが待機時間だ。夜間もモデルを載せたままにするのか、要求時だけ起動するのか。起動時間を許容できる業務なら、止める設計で費用を下げられる。

電力単価や為替、機材価格は変わる。見積書には単価と取得日を残し、半年ごとに更新する。数字だけを固定すると、比較の前提が古くなる。

3. 運用人件費：担当者の時間をゼロにしない

ローカルLLMは、モデルを置いたら完成ではない。少なくとも次の仕事が続く。

• モデルと実行基盤の更新
• 脆弱性、ライセンス、配布元の確認
• 利用者とアクセス権の管理
• 障害、容量不足、遅延への対応
• ログ監視と問い合わせ対応

式はこれでよい。

月額運用費 = 月間作業時間 × 担当者の時間単価 + 外部保守費

月12時間、時間単価8,000円なら9.6万円になる。機材償却より大きい。兼務担当者でも0円にはしない。その時間に本来できた仕事があるからだ。

日本総研の調査資料も、ローカルLLMではモデル管理・運用コストが発生し、性能を監視するLLMOpsの仕組みを自社で用意する必要があると指摘する（報告書PDF）。運用担当、障害時の連絡先、更新を承認する人まで見積もりへ入れる。

4. 品質確認費：安い推論が手直しを増やさないか測る

ローカルモデルの出力単価が安くても、人の修正が増えれば全体では高くなる。

月額品質確認費 = 評価時間 × 時間単価 + 再作業時間 × 利用者の時間単価

評価に月8時間、時間単価8,000円なら6.4万円だ。さらに、利用者20人が毎月30分ずつ回答を直せば10時間分が加わる。

2026年の企業向けコーディングエージェントのケーススタディでは、キャッシュを使ったClaude系APIが100万トークンあたり0.57ドル、GLM系の共有オンプレミス枠が2.83ドルになった。一方、共有GPU全体の真の総保有コストではオンプレミスが40.1%安いという逆向きの結果も出た（Inference Economics of Enterprise Coding Agents）。単一開発者・各28日間で、モデルも実行環境も異なる非ランダム化事例だ。ローカル対クラウドの一般的な優劣は示さないが、利用率、キャッシュ、修正負荷で結論が反転する例にはなる。

比較では、同じ業務データ、同じ受け入れ条件、同じ期間を使う。正答率だけでなく、回答までの時間、再実行回数、人の修正分数も測る。LLM評価の4層のように、出力品質から業務成果まで分けると、安さと使いやすさを混同しにくい。

5. 可用性と安全性：止まった時間も費用にする

1台構成は安い。だが、その1台が故障すると全員が使えない。モデル更新に失敗しても戻せない。ここで必要なのは、豪華な冗長化ではなく、業務影響に合う復旧条件だ。

月額リスク費 = 予備機・バックアップ費 + 監視費 + 1回の停止時間 × 月間発生頻度 × 影響人数 × 影響率 × 時間単価

1回2時間の停止が月0.2回、利用者20人、影響率50%、時間単価5,000円なら、月額期待損失は2万円になる。クラウドへ一時退避できるなら、その利用料も代替策として見積もる。

ローカルに置けば、情報が自動的に安全になるわけではない。端末盗難、内部の権限超過、バックアップ流出、古いモデルやライブラリの脆弱性は残る。権限表、監査ログ、更新手順、データ削除までを運用費に含める。

5項目を月額TCOへまとめる

仮の条件で試算する。

これは価格相場ではない。比較表の作り方を示す仮定だ。重複計上を避けるため、初期構築は機材へ、毎月の作業は運用へ、回答の検証と手直しは品質確認へ、停止への備えは可用性へ一度だけ入れる。ソフトウェア利用料と廃棄・移行費も、発生する項目へ加える。

月額TCO = 初期構築費の月額償却 + 継続利用料 + 電力・設備費 + 運用人件費 + 品質確認費 + 月額リスク費

相見積もりには、次の4つを添える。

自社の実測値へ置き換え、同じ利用量と品質条件でクラウドAPI、閉域クラウド、ローカル、ハイブリッドを並べる。

生成AI APIの料金を月額へ直す5つの式も使えば、クラウド側の入力、出力、再試行、付帯機能、監視を同じ表へ載せられる。エージェントまで含む場合は、AIエージェントの費用に含まれる5つの内訳も加える。機密処理はローカル、高度な推論はクラウドという分担も比較対象にしたい。

購入前に答える5つの質問

1. 対象業務と月間処理量は測れているか
2. 必要な品質、速度、同時利用者数は決まっているか
3. 更新と障害対応に毎月何時間かかるか
4. 人の修正時間をクラウドと同条件で比較したか
5. 故障時に何時間で、どの代替手段へ切り替えるか

ローカルLLMの費用は、安いか高いかの二択ではない。利用率が高く、扱うデータを外へ出せず、運用を共通基盤へ集約できるなら有力だ。小規模・低頻度で、最高水準の推論が必要なら、クラウドやハイブリッドの方が合理的な場合もある。

Atsumellでは、モデルや機材を選ぶ前に、業務量、品質条件、権限、運用責任を整理し、相見積もりに使える要件へまとめている。ローカルとクラウドのどちらを選ぶか迷っているなら、5項目のTCOから一緒に設計できる。AI基盤の進め方を相談する。

関連記事

• AIチャットボットの費用は5項目で決まる
• AIコードレビューのやり方｜7つの確認点
• AIのセキュリティは要件で守る