ローカルLLMとは？
クラウドのAPIではなく、自分のPCや自社サーバー上で動かすLLM。データを外部に送らずに済むため、機密情報を扱う用途で注目されている。
ChatGPTやClaudeは基本的にクラウド上のAIに文章を送って使いますが、オープンなモデル（Llama、Gemmaなど）を手元のマシンで動かすのがローカルLLMです。データが社外に出ない、通信費がかからない、カスタマイズしやすいのが利点です。
一方で、最高性能のクラウドモデルには賢さで及ばないこと、動かすためのマシンスペックが必要なことがトレードオフ。「機密データはローカル、それ以外はクラウド」のような使い分けが現実的な落としどころです。
ローカルLLMの始め方
いちばん簡単な入口はLM StudioやOllamaといった無料アプリです。インストールして、モデル一覧からLlamaやGemma、Qwenなどのオープンモデルを選んでダウンロードすれば、あとはチャット画面で話すだけ。プログラミングは不要で、早ければ15分で「自分のPCの中だけで動くAI」と会話できます。
モデル選びで迷ったら、まず「7B前後・Q4量子化」と書かれたものから。サイズと賢さのバランスが良い定番ゾーンで、物足りなくなったら大きいものに乗り換えるのが定石です。
必要なスペックの目安
決め手はGPUよりもメモリ（RAM／VRAM）の量です。ざっくり、メモリ8GBなら3B級の小型モデル、16GBなら7〜13B級が快適ゾーン、32GB以上あれば30B級も視野に入ります。AppleシリコンのMacはメモリをAIと共有できる構造のため、ローカルLLM入門機として人気があります。
「最新の巨大モデルを動かしたい」となるとゲーミングPC級の投資が必要ですが、「手元で試したい」だけなら普段使いのノートPCで始められる時代になりました。
クラウドAIとの使い分け
賢さの最高値では、ChatGPTやClaudeなどのクラウドAIにまだ届きません。それでもローカルLLMを選ぶ理由は3つ——①データが1バイトも外に出ない（機密・個人情報）、②ネット接続もAPI料金も不要（大量処理・オフライン環境）、③自由に改造できる（ファインチューニングや組み込み）。
実務では「顧客データの処理はローカル、企画や文章はクラウド」のような使い分けが現実解です。全部をどちらかに寄せる必要はありません。
ローカルLLMのよくある質問
モデル自体はオープンなものが多く無料です。かかるのはPCのスペック（メモリ）と電気代だけ。API課金がないため、大量に回す用途ではクラウドより安くつくことがあります。
最新のクラウドモデルには及びませんが、要約・分類・下書きなど定型的なタスクなら十分実用レベルです。「最高の賢さ」より「データを外に出せない」が要件のときに選ぶ技術です。
用語を覚えるより、ストーリーで体感するほうが早い。