ローカルLLM比較 2026｜性能・NSFW・必要GPUで選ぶオープンソース大規模言語モデル

ローカルLLM選びで大事なのは、いちばん大きいモデルを選ぶことではありません。2026年時点では、性能、NSFW対応、必要GPU、ライセンス、実行速度、そして自分の用途に合うかをまとめて見る必要があります。

実用的には、日英中を含む多言語・コード・RAGならQwen 3.8、Google系のオープンウェイトと分かりやすい公式資料を重視するならGemma 4、NSFWや成人向けロールプレイで拒否を減らしたいならDolphin 3.0、長文・Agent・サーバー運用まで見るならDeepSeek V4が主な候補になります。

早見表

性能で比較する

ベンチマークは参考になりますが、ローカルLLMでは実際の用途がさらに重要です。コード補助、日本語文章、長文RAG、成人向け創作、ローカルAgentでは、同じモデルでも評価が大きく変わります。

Artificial AnalysisやLMArenaのようなリーダーボードは全体感を見るには便利です。ただし、自分の文書、文体、プロンプト、ツール連携、NSFW用途での挙動は、必ず手元で試した方がよいです。

NSFW・無検閲で比較する

NSFW対応は、クラウドAIとローカルLLMの違いが出やすい部分です。クラウドAIはプラットフォーム側のモデレーションが入りやすく、ローカルのオープンウェイトモデルは、実行環境、system prompt、追加フィルターをユーザー側で決めやすくなります。

Dolphin 3.0は、この中では最もNSFW・無検閲寄りの候補です。成人向けロールプレイ、創作、低拒否の会話、system prompt制御を重視する人に向いています。ただし、自由度が高いぶん、公開サービスに使う場合は独自のルールや悪用対策が必要です。

Qwen 3.8やGemma 4は公式版としては安全寄りですが、コミュニティにはabliteratedやuncensored系の派生モデルもあります。これらは公式版とは別物として、ライセンス、配布者の信頼性、用途を確認して使うべきです。DeepSeek V4はNSFW目的より、長文・Agent・大規模用途で評価した方が自然です。

必要GPU・VRAMで比較する

ローカルLLMでは、紙の上で一番強いモデルより、毎日ストレスなく動くモデルの方が価値があります。VRAM、量子化、コンテキスト長、KV cache、推論速度を一緒に考える必要があります。

主要モデル別レビュー

Qwen 3.8：総合力で選ぶなら最有力

Qwen 3.8は、多言語、コード、RAG、ツール利用をまとめて見たときにバランスがよいモデルです。巨大なMax系より、ローカル用途では27B系を中心に考える方が現実的です。

弱点は、公式モデルがNSFW特化ではないことです。成人向けロールプレイや低拒否を最優先するなら、Dolphin系やコミュニティ派生モデルと比較した方がよいでしょう。

Gemma 4：公式資料とGoogle系エコシステムが強い

Gemma 4は、Google系のオープンウェイトモデルをローカルや自前環境で試したい人に向いています。12Bは試しやすく、26B-A4Bや31Bはより高品質な検証向けです。

公式版は安全寄りの挙動です。NSFWや低拒否を狙う場合、HereticやAbliteratedのようなコミュニティ版を調べる人もいますが、公式版とは別モデルとして扱う必要があります。

Dolphin 3.0：NSFW・ロールプレイ重視の定番

Dolphin 3.0は、無検閲ローカルLLMを探す人にとって分かりやすい候補です。創作、ロールプレイ、成人向け文章、system promptを強く反映させたい用途で選ばれやすいです。

最初は8BやGGUF版から試し、品質を上げたい場合にMistral 24Bへ進む流れが現実的です。自由度が高いぶん、他人に提供するサービスでは安全設計をユーザー側で行う必要があります。

DeepSeek V4：強いが個人PC向けではない

DeepSeek V4は、長文処理、Agent、サーバー運用、大規模タスクで注目されるモデルです。ProとFlashの分かれ方も分かりやすく、品質重視かコスト重視かで選べます。

ただし、普通の個人PCで気軽に動かすモデルではありません。vLLMやSGLangでのサービング、複数GPU、コスト管理まで含めて検証するチーム向けの性格が強いです。

Llama 4 / Llama系：派生モデルの多さで選ぶなら外せない

Llama 4 Scout / Maverickを含むLlama系は、ローカルLLMの実用面で今も重要です。公式モデルだけでなく、GGUF、コーディングfine-tune、ロールプレイfine-tune、uncensored派生、導入記事が非常に多く、選択肢の広さではトップクラスです。

一方で、Llamaは「一つのモデル」として評価しにくい面があります。公式Instruct、コード特化、ロールプレイ特化、無検閲派生では挙動がかなり違います。自由に選びたい人には強いですが、迷わず一つ選びたい人にはQwenやGemmaの方が分かりやすいでしょう。

Mistral Large 3：サーバー運用向けの大型オープンウェイト

Mistral Large 3は、個人が気軽に試す小型ローカルLLMというより、オープンウェイトの大型MoEを自前環境で評価したいチーム向けのモデルです。DeepSeek V4と同じく、性能上限は高い一方、ハードウェアと運用コストが重くなります。

NSFW面では、モデル名だけで判断するより、実際に使うInstruct版、提供プラットフォーム、追加フィルター、利用規約を見た方が安全です。ローカル自由度を求めるなら、DolphinやLlama派生とは別軸で比較するモデルです。

Kimi K2：Agent・ツール利用向けの注目候補

Kimi K2 Thinkingは、単純なチャットよりも、コード、Agent、ツール利用、複数ステップのタスクで評価したいモデルです。ブラウザ操作、コード修正、ワークフロー自動化のような用途では、一般チャットベンチマークだけでは分からない強みが出ます。

DolphinのようなNSFW・ロールプレイ重視モデルではありません。Qwenと比べる場合も、日常会話よりAgent用途で実測する方が違いを見つけやすいです。

GLM-4.6：長文・コード・Agentで試したい中国系モデル

GLM-4.6は、LlamaやMistralほど日本語圏で話題になりやすいモデルではありませんが、長文、コード、Agent用途では比較対象に入れる価値があります。中国系オープンモデルをQwenやKimiと比較したい人にも向いています。

選ぶときは、リーダーボードの順位だけでなく、自分のコードベース、長文資料、ツール呼び出し、推論速度を見て判断するのが現実的です。

選び方

1. まず用途を決める。コード、文章、RAG、NSFW、長文、Agentでは最適モデルが違う。
2. GPUに余裕を持って動くモデルを選ぶ。ぎりぎり載るモデルは日常利用でつらい。
3. 最初はGGUFや4bit量子化で試し、必要になってからBF16やサーバー構成を検討する。
4. NSFW重視なら公式安全寄りモデルとDolphin/Llama派生を分けて評価する。
5. Agent重視ならQwen、Kimi、GLM、DeepSeekを自分のワークフローで比較する。
6. 商用利用では、モデル本体、ベースモデル、派生モデル、量子化版のライセンスを確認する。

よくある質問

総合的におすすめのローカルLLMはどれですか？

多くの人にはQwen 3.8 27Bが最初の候補になります。多言語、コード、RAGのバランスがよく、24GB級GPUで量子化版を試しやすいからです。NSFWやロールプレイが主目的ならDolphin 3.0の方が向いています。

RTX 4090 24GBならどのモデルが現実的ですか？

Qwen 27B、Gemma 31B/26B、Dolphin 24Bなどを量子化版で試すのが現実的です。長文コンテキストや速度を重視するなら、12Bや8Bへ下げた方が快適な場合もあります。

NSFWに一番向いているモデルはどれですか？

この中ではDolphin 3.0が最も分かりやすい候補です。QwenやGemmaにもコミュニティ派生のuncensoredモデルはありますが、公式版とは別物として慎重に選ぶ必要があります。

商用利用できますか？

モデルごとに違います。公式モデル、ベースモデル、fine-tune、GGUF変換で条件が変わることがあります。特に企業利用では、ライセンス、入力データ、ログ、出力レビューを確認してください。

Ollama、LM Studio、vLLMはどう使い分けますか？

OllamaやLM Studioは個人PCで試すのに向いています。vLLMやSGLangは、API化、batching、チーム利用、長文処理を考える段階で使いやすいです。

まとめ

ローカルLLMは、性能だけで順位を決めると失敗しやすい分野です。Qwen 3.8は総合力、Gemma 4は公式資料とGoogle系エコシステム、Dolphin 3.0はNSFW・低拒否、DeepSeek V4とMistral Large 3はサーバー級の大規模用途、Llama系は派生モデルの豊富さ、KimiとGLMはAgent・長文・コード用途で見ると分かりやすいです。

最初の一歩としては、24GB GPUならQwen 27BやGemma 12B/31Bの量子化版、NSFW重視ならDolphin 8B/24BやLlama派生、Agent重視ならQwen/Kimi/GLM、サーバー検証ならDeepSeek V4やMistral Large 3を候補にすると選びやすいです。大きいモデルを無理に動かすより、毎日速く使えるモデルを選ぶ方が、ローカルAIの価値は出やすくなります。

参考情報

• Qwen3.8-27B on Hugging Face
• Gemma 4 model card
• Dolphin3.0-R1-Mistral-24B
• DeepSeek-V4-Pro-0813
• Llama 4 models
• Mistral Large 3
• Kimi K2 Thinking
• GLM-4.6
• Artificial Analysis model leaderboard
• LMArena leaderboard
• vLLM supported models