ローカルLLMのコスト優位は、3年で消える。だから安さではなく、作る楽しさで選ぶ

2026-08-20

手元のパソコンの中だけでAIを動かす。ネットにつながっていなくても、答えが返ってくる。その様子を見て、自分でも組んでみようかと考えた方は多いのではないでしょうか。

よく言われる利点は、だいたい3つに整理されます。データが外に出ない。返事が速い。使った分だけ払う料金がかからない。この3つが並んでいると、あとは機械を買うだけの話に見えてきます。

この記事が立てる問いは違います。その3つは、本当に元が取れているのでしょうか。

1.5テラバイトのメモリは、大きな入れ物であって、賢さではない

Appleが開発しているとされるM7 Ultraという半導体が報じられました。Bloombergのマーク・ガーマン記者によると、最大1.5テラバイトのユニファイドメモリに対応し、AI性能はNvidiaのBlackwell級の加速装置に近づくとされています。Tom’s Hardwareはこれを2028年の製品として伝え、同じ設計を土台にしたサーバー向けの半導体が2029年ごろに動きはじめる見通しだとしています。

ここで事実と仮説を分けておきます。Apple自身は、この半導体の存在も、報じられた数値も認めていません。これは報道であって、仕様書ではありません。

数字だけを見ると、これで手元のAIが十分に賢くなるように読めます。ただ、メモリの容量が増えることと、モデルが賢くなることは、別の話です。メモリは、どれだけ大きなモデルを載せられるかを決めます。載せたモデルがどれだけ賢いかは決めません。

賢さを作っているのは学習の側で、そこはデータセンター規模の計算資源を前提にしています。報道もBlackwell級に近づくとは書いていますが、同等になるとは書いていません。入れ物が大きくなっても、中に入れるものは外から来ます。

ローカルで回す費用が電気代だけになるのは、元を取ったあとである

性能で追いつかないなら、残る強みはコストです。実際、ローカルLLMを紹介する記事のほとんどが、ランニングコストは電気代だけだと書いています。この点は正しいと思います。

一度ハードウェアを買ってしまえば、1回の推論を追加で走らせる費用は、ほぼ電気代に収束します。だから常時稼働のエージェントや、まとめて大量に処理する用途では、この構造が効きます。従量課金なら積み上がっていく分が、定額の中に収まります。

ただし、この文には前半が抜けています。電気代だけになるのは、買った機械の代金を回収し終えたあとの話です。回収し終えるまでは、電気代に加えて、その日の分の減価償却を毎日払っています。

だから、ローカルLLMがクラウドより安くなるのは、無条件ではありません。ある稼働率を超えて回した場合だけです。それを下回っている間は、クラウドのほうが安いままです。

買った機械は3年で値下がりし、クラウドの料金も同じ3年で下がる

問題は、その分岐点が固定されていないことです。両側から動きます。

片側は、機械の値段です。1.5テラバイトを積んだような構成は、買った時点では最上位の機械です。ところが3年もすれば、同じ性能が中位機種の値段で手に入ります。買値の大部分が3年で消えるなら、その3年で元を取る計算は、それだけ厳しくなります。

もう片側は、クラウドの料金です。スタンフォード大学のAI Indexは、MMLUでGPT-3.5と同等の成績を出すモデルへの問い合わせ費用が、2022年11月の100万トークンあたり20ドルから、2024年10月には0.07ドルまで下がったと報告しています。18か月ほどで280分の1です。用途によっては、年に9倍から900倍の幅で下がっているとも書かれています。

つまり、分岐点は毎年うしろへ押されます。買った機械は毎年安くなり、比較相手の料金も毎年安くなる。3年前に成り立った計算は、3年後にはもう成り立ちません。元を取るという言い方は、相手が止まっている場合にしか使えないのです。

データを外に出さないやり方は、盗まれる場所をむしろ増やす

コストで決まらないなら、次に持ち出されるのは安全の話です。データが自分のパソコンから出ないのだから、漏れようがない。この理屈は、分かりやすくて強い。

構造としては、たしかに非対称があります。クラウドは集中です。企業向けの契約を1つ破られれば、組織全体のデータがまとめて外へ出ます。ローカルは分散です。同じ被害を出すには、台数の分だけ侵入しなければなりません。

ただ、この非対称は裏返しでもあります。分散しているということは、守るべき入口がその数だけあるということです。パソコンが50台あれば、鍵のかかった扉が50枚に増えます。しかも1枚ずつを守っているのは、専任の担当者ではなく、その机に座っている社員です。

クラウド側には、提供する会社の専任チームがいて、暗号化も監査ログも標準で付いてきます。多要素認証やシングルサインオンのように、組織としてまとめてかけられる仕組みもあります。守りの質と、破られたときの被害の集中度。この2つを取り違えると、分散すれば安全という話になってしまいます。

実際に破られている入口は、人と、パッチの当たっていない機械である

ここは構造の話で終わらせず、実際の数字を見ておきます。Verizonの2026年版データ漏洩調査報告書によれば、侵入の最初の入口として最も多かったのは、脆弱性の悪用で31%でした。前の版の18%から大きく増えています。

同じ報告書は、フィッシングを16%、認証情報の悪用を13%、なりすましを6%として別々に数えています。そして、認証情報の悪用そのものは、侵入の経路全体を通して見ると39%の事案に現れています。人が関わった漏洩は全体の62%です。

ここから読めることは1つです。破られているのは、AIをどこに置いたかではなく、パッチが当たっていない機械と、人です。ローカルに置くという判断は、この2つを1つも減らしません。台数を増やすなら、むしろ両方を増やします。

私の解釈を付け加えておきます。ローカルとクラウドのどちらでも、最後は認証情報の窃取に行き着きます。違うのは、そこへ至る扉が何枚あるかと、その扉を誰が見張っているかです。総合すると、期待される損害はクラウド側のほうが小さいと考えるのが妥当だと思います。ただし、これは統計から導いた推定であって、証明された因果ではありません。

ローカルLLMで元が取れるのは、3つの数字が揃った場合だけである

ここまで否定的に書いてきたので、逆の側も正直に書きます。ローカルLLMが正しい選択になる場面は、たしかに存在します。

第一に、外部に送信してはいけないデータを扱っている場合です。規制や契約でそう決まっているなら、コスト計算をする前に選択肢が1つしかありません。この場合、ローカルは安いから選ぶのではなく、それしかないから選びます。

第二に、稼働率が高い場合です。エージェントを24時間動かし続けるような使い方なら、従量課金は積み上がります。目安として、自分が1か月に払っているAPIの料金を12倍して、買おうとしている機械の値段の3分の1を超えているかを見てください。超えていないなら、3年で元は取れません。

第三に、通信のない場所で使う場合です。オフラインで動くこと自体に価値があるなら、それは価格では代替できません。この3つのどれにも当てはまらないなら、道具としてのローカルLLMは、いまのところ割に合わないと思います。

よくある疑問

Q：ローカルLLMは、クラウドより安く済むのでしょうか。

A：ある稼働率を超えて回した場合だけ安くなります。機械の代金を回収し終えるまでは、電気代に加えて減価償却を払っているためです。しかも、その分岐点は毎年うしろへ動きます。買った機械が値下がりする一方で、クラウド側の料金も下がり続けているからです。判断するときは、いまの単価ではなく、3年分の合計で比べてみてください。

Q：ローカルに置けば、情報漏洩は防げるのでしょうか。

A：漏洩の経路が変わるだけで、なくなりはしません。Verizonの2026年版の調査では、侵入の最初の入口の31%が脆弱性の悪用で、人が関わった漏洩は全体の62%を占めています。台数を増やせば、守る扉もその分だけ増えます。