ChatGPT や Claude を毎日使ううちに「社内文書を外に貼るのは気が引ける」「日本語をオフラインで処理したい」と感じたなら、ローカルLLMの日本語モデルが選択肢になります。私は MacBook Pro + Ollama で Llama 3 や Gemma に日本語プロンプトを投げ、応答の手触りを確かめてきました（業務の日本語処理の本番は、いまも Claude / ChatGPT / Gemini API が主軸です）。
結論は、「最初の1本」は日常用に Llama 3 か Gemma、日本語の質をさらに詰めたいなら ELYZA-JP / Swallow / Qwen3 系を試す——という順番です。用途別の選び方、小説・創作に使うときの入口、Mac の最小構成、「検閲なし」の規約整理までを、手元で触った範囲と公開情報を分けて書きます。
とにかく1本だけ選びたい方は結論マップと用途別の選び方を、Mac で動くか不安な方はMacの最小構成からどうぞ。土台がまだの方は、先に親記事のLLM ローカルの基礎を読んでから戻ってくると迷いません。
結論｜用途別の一枚マップと、日本語特化モデルが何で違うのか
📖 用語：ローカルLLM＝自分のPCや手元のサーバーで動かすLLM（自家用車のイメージ）。クラウドAI＝ChatGPT / Claude / Gemini のように運営会社のサーバーで動き、ネット越しに使うAI（レンタカー）。
迷ったときの選び方を、先に3行で。
- 日常チャット・下書き・かんたんな要約なら、まず Llama 3 か Gemma。私が Mac で日本語を投げて「普段使いできる」と感じた範囲です。
- 日本語の硬い文章や社内文書なら、ELYZA-JP / Swallow / Qwen3 といった日本語特化・多言語の系統を試す。ここは私が動かし込んでおらず、公式情報を見ての紹介です。
- 業務の本番処理は、いまも クラウドAPI（Claude / ChatGPT / Gemini）が筋。込み入った日本語の一貫性で、まだ差を感じます。
立ち位置を正直に書くと、私が手元で試したのは Mac + Ollama で Llama 3 / Gemma に日本語を投げた範囲です。だからこの記事は「手元で触って分かったこと」と「公式情報で確かめたこと」を分けて書きます。「ローカルがクラウドと同じ実力」とは申し上げません。 インストール手順・ハード要件の網羅・量子化・主要モデル一覧は親記事のLLM ローカルの基礎に集約し、本記事は「日本語を、どれで、どう動かすか」に絞ります。
「日本語が得意」なモデルは何が違うのか
📖 用語：日本語特化モデル＝英語中心で学習したモデルに日本語を追加学習（継続学習）させたもの。トークナイザ＝文章をトークンに切り分ける仕組みで、日本語を効率よく切れるほど速く・賢く処理しやすい。
ローカルLLMがどれも同じ日本語力ではありません。素のモデルは英語中心の学習が多く、日本語比率が小さいと不自然な言い回しを返すことがあります。実際、素の Llama 3 に日本語を投げると、内容は合っていても助詞がぎこちなかったり急に英語が混じったりしました（手元で何度か投げた印象です）。Gemma のほうが収まりよく感じる場面もあり、同じプロンプトで見比べないと分かりません。
そこで日本語特化モデルです。ベースに日本語を追加学習させ、自然さや知識を底上げしたもので、後述の ELYZA-JP / Swallow などがこの系統。もう一つの観点がトークナイザで、日本語を細かく切りすぎると処理単位が増えて速度に響きます。特化モデルはここも日本語向けに調整されていることが多い、という整理で十分です。仕組みを深く知りたい方はLLM とは何かへ。
用途別の選び方｜5用途の指針と、日本語特化モデルの顔ぶれ
📖 用語：RAG（検索拡張生成）＝手元の文書を検索し、その内容を踏まえて答えさせる仕組み（資料を見ながら答えるイメージ）。
「おすすめ N選」を並べる代わりに、用途ごとにどの系統を選ぶか・なぜかで整理します。営業時代も「全機能を並べる」より「あなたの使い方ならこれ」と絞るほうが喜ばれました。
| 用途 | 選ぶ系統・方針 | 補足 |
|---|---|---|
| 日常チャット・下書き | まず Llama 3 / Gemma | 私が「普段使いできる」と感じた範囲。最初の1本を入れて手触りを確かめるのが近道 |
| 要約・議事録の下処理 | 軽量モデルで足りることが多い | 込み入った要点抽出や社外向けの仕上げは私はクラウドへ。使い分けはAI 議事録 |
| 翻訳 | 多言語に強い Qwen 系が候補 | 精度が要る翻訳は DeepL / Claude に分（公式情報ベース）。使い分けはAI 翻訳 |
| RAG（社内文書検索） | ローカルLLM＋ベクトルDB | 設計の全体像はRAG とはへ |
| 小説・校正 | 専用記事へ | 小説・文章校正で深掘り |
日本語特化モデルの顔ぶれ——ELYZA-JP / Swallow / Qwen / Gemma
📖 用語：モデルライセンス＝そのモデルを何に使ってよいかを定めた利用条件。とくに商用利用の可否が確認ポイント。
日本語でよく名前が挙がる系統を整理します。順位や性能スコアの断定はしません。 手元で動かし込んだのは Llama 3 / Gemma の範囲で、ELYZA-JP / Swallow / Qwen は公開情報からの紹介だからです。「私が手元で触ったか」の列を添えて並べます。
| 系統 | 開発元 | 日本語の位置づけ | ライセンス確認 | 私が手元で触ったか |
|---|---|---|---|---|
| Llama 3 系 | Meta | 英語中心。日本語も一定動く | 商用条項を要確認 | ○（Mac+Ollama で日本語検証） |
| Gemma 系 | Google DeepMind | 英語中心。軽量で扱いやすい | 利用規約を要確認 | ○（Llama 3 と見比べ） |
| Llama-3-ELYZA-JP | ELYZA（東大松尾研由来） | Llama 3 に日本語を追加学習 | 要確認 | 未（手元では未検証） |
| Swallow | 東京科学大学・産総研の研究 | 日本語を継続学習で強化 | 要確認 | 未（手元では未検証） |
| Qwen3（クウェン）系 | Alibaba | 多言語に強い現行世代。日本語の評判も高い | 要確認 | 未（手元では未検証） |
| gpt-oss | OpenAI | OpenAI 初のオープンウェイト系統 | 要確認 | 未（手元では未検証） |
なお 2026 年 7 月時点の Ollama のライブラリでは、Qwen は qwen3 / qwen3.5、Gemma は gemma3 / gemma4 といった新しい世代が並んでいます（出典：Ollama Model Library、取得：2026-07-12）。世代が上がるほど同じサイズでも日本語が良くなる傾向は各社共通なので、これから入れるなら同じ系統の新しい世代を選ぶのが素直です。私が手元で確かめたのは Llama 3 / Gemma の世代なので、新世代の日本語の質そのものは断定しません。
ELYZA は、東京大学・松尾研究室を出自とする AI 企業で、Llama 3 をベースに日本語を強化した Llama-3-ELYZA-JP-8B などを公開しています（出典：Hugging Face ELYZA 組織ページ、取得：2026-06-16）。Swallow は、東京科学大学（旧・東京工業大学）と産総研の研究者が中心となって、日本語に強いオープンなLLMを学術研究から開発しているプロジェクトです（出典：Swallow LLM 公式サイト、取得：2026-06-16）。
ELYZA-JP は GGUF 形式（Ollama で扱いやすい量子化済みの形式）も公開されており、Ollama に入れて手触りを試すのは手軽です。入れ方はOllama の使い方へ送りますが、対応モデル名を ollama pull で取得して ollama run で動かす流れです。
⚠️ どの系統も、ライセンスと利用規約は必ず公式で確認を。とくに商用可否は系統・バージョンで条件が違います。本記事は選定の考え方の整理で、利用可否を保証するものではありません。
日本語で小説・創作に使うなら——モデルの向きと入口だけ
モデル名だけ知りたいなら、この記事で足ります。小説へ進む場合は、設定を渡し直す順番と失敗出力の直し方が必要です。初稿→ダメ出し→リテイク、プロンプト30本、失敗テイクを収録した¥980のガイドは、環境構築の章まで note で無料試し読みできます（最新情報は note でご確認ください）。
小説では日常チャット以上に、日本語の自然さと長文の一貫性が問われます。日本語特化系や新しい世代を候補にし、長い物語は章ごとに分けるのが現実的です。
どのモデルがどこまで書けるか・長編で破綻させない工夫は、実際に第1話を生成して確かめた ローカルLLM×小説の専用記事 に深掘りを集約しています。コピペで使えるプロンプトの雛形は 小説プロンプト実例集、書いた文章を手元で直したい方は ローカルLLM 文章校正 が続きです。
見極めと費用｜実用かを確かめる3観点と、コストはハード側にある話
📖 用語：ベンチマーク＝共通の問題セットで測った性能スコア（あくまで目安）。指示追従＝「3行で」「箇条書きで」といった指示にどれだけ従えるか。
ネットのベンチマーク数値は参考になりますが、それだけで決めると後悔しやすい。測られている問題と、あなたの使いたい用途が必ずしも一致しないからです。私が手元で確かめる観点は3つ。
- 日本語の自然さ：てにをは・敬語・言い回しがぎこちなくないか。声に出して違和感がないか。
- 指示追従：「3行で」「ですます調で」といったフォーマット指定が効くか。弱いと手直しが増えます。
- 長文の一貫性：長めの文章で途中話がぶれず、最後まで筋が通っているか。
具体的には同じ日本語プロンプトを Llama 3 と Gemma に投げて見比べました。「営業の週報を3行で要約して」のような実際に使いそうなお題を1つ決めて両方に投げると、スコアの数字より自分の用途での向き不向きがはっきり分かります。あなたの用途で同じことをやれば、ネットの順位より自分に合う1本が見つかります。
「無料」の実態——コストはハード側に残る
📖 用語：量子化＝モデルを圧縮して少ないメモリで動かす処理（高画質動画を画質を落として軽くするイメージ。細かい話は親記事へ）。
「日本語ローカルLLMは無料」は半分正しく、半分は誤解を生みます。Ollama などのソフトも Llama 3 / Gemma といったモデルも、ダウンロードして使う分には無料です。ただし実コストはハード側に残ります。モデルを載せる Mac のメモリ、何GBものモデルを保存するストレージ、動かす間の電気代です。RAM 16GB の Mac で 8B クラスを動かすと「動くがほかのアプリと並行だと少し重い」、32GB で待ち時間のストレスが減りました（体感で、モデルや量子化で変わります）。
つまり「使うほど課金が増えるクラウド」に対し「最初にハードへ投資し、あとは電気代だけのローカル」という構図。どちらが得かは使用量しだいで断定はできませんが、手元でたくさん回すならメモリに余裕のある Mac を一度用意するほうが結果的に気楽です。
Macで動かす｜日本語が動く最小構成と、5分で始める入口
📖 用語：Apple Silicon＝Apple 製の Mac チップ（M1 / M2 / M3 系）。GPU とメモリが一体でローカルLLMと相性がよい。RAM（メモリ）＝モデルを載せる場所で、容量がそのまま効く。
「自分の Mac で日本語が動くのか」を判断する、体感ベースの目安です（ハード要件の網羅は親記事へ）。
- RAM 16GB（最小ライン）：Apple Silicon（M1 以降）で 8B クラスが「日常チャットなら動く」。ほかのアプリを閉じ気味にして使うイメージ。
- RAM 32GB（快適ライン）：待ち時間が目に見えて減り、ブラウザや資料を開いたままでも引っかかりにくい。
- RAM 64GB 以上（余裕）：大きめのモデルや、複数を入れ替えながら試すのに余裕が出ます。
体感なのでモデルのサイズ・量子化・同時に動かすアプリで変わります。「このスペックなら絶対に快適」とは申し上げません。 Windows + GPU 構成は私が動かし込んだ環境ではなく、公式情報の言及にとどめます。買い替えなら CPU の速さよりまず RAM の容量。1台用意するなら「メモリに余裕のある Apple Silicon Mac」が無難で、価格や在庫は変動するので最新情報を各ストアで確かめてください。
5分で日本語モデルを動かす入口
📖 用語：GUI＝マウスでクリックして操作する画面。ターミナル（黒い画面）が苦手な人向け。
手順の本体は専用記事へ送るので、ここでは「どっちのドアから入るか」だけ。
- ターミナルが平気な方 → Ollama。
ollama pull <モデル名>で取得しollama run <モデル名>で日本語を投げられます。手順はOllama の使い方へ。 - 黒い画面が苦手な方 → LM Studio。アプリ内でモデルを探してクリックで動かせる GUI。手順はLM Studio の使い方へ。
私はまず Ollama で Llama 3 を入れて日本語を投げ、続けて Gemma を同じお題で見比べました。最初の1本が動いた瞬間の「自分の Mac の中だけで日本語が返ってくる」感覚は、クラウドにはない安心感があります。社外秘を外に出さずに試せる意味でも、最初の一歩を踏む価値はあります。
規約と実体験｜「検閲なし」の整理と、私が落ち着いた順番
📖 用語：公序良俗＝社会一般の常識的な秩序や道徳。法律と並ぶ、利用可否の基準。
サジェストには「検閲なし」「脱獄」も出てきます。先に書くと、本記事では無修正化や制限回避の具体的なやり方は書きません。 そのうえで論点を分けます。
- 正当な用途はある：クラウドAIが過剰に断りがちな創作や研究の下処理（フィクションの暗いシーンの描写など）を手元で扱いたいニーズは理解できます。
- モデルライセンス：商用や公開作品に使ってよいかは系統・バージョンで条件が違うので、必ず公式で確認を。
- 利用規約・公序良俗：法律や規約、社会的な常識に反する用途は、ローカルだから許されるわけではありません。
- 自己責任：手元で動かす以上、出力の扱いはすべて自分の責任です。
最終判断、とくに商用利用や権利が絡む場面は法務担当や弁護士など専門家に確認してください。本記事は一般的な整理で、個別の利用可否を保証するものではありません（この方針は小説用途の記事と同じ）。「検閲なし（uncensored）」の仕組み・R18表現と投稿先規約の現実は、専用記事ローカルLLM 検閲なしとはに切り出しました。
私の選び方——手元で日本語を試して落ち着いた順番
職種ごとのテンプレを並べる代わりに、実際にたどった順番を1本の流れで書きます。
最初は完全に迷子でした。モデル名が山ほど出てきて「結局どれを入れれば」が分からない。これが最初の壁の1つ目。割り切って名前をよく聞く Llama 3 を Ollama で入れ、使いそうなお題（週報の要約、メールの下書き）を投げました。内容は合うのに日本語が少しぎこちない瞬間があり、Gemma を同じお題で見比べて、応答を見比べる確かめ方にたどり着きました。日常チャットや下書きなら、この2つで十分実用だと感じます。
次にぶつかったのが硬い日本語で物足りなさを感じた場面。きちんとした文体や専門的な言い回しはもう一歩で、ELYZA-JP / Swallow / Qwen を調べ始めました（動かし込んでいないので順位の断定は避けます）。そして最初の壁の2つ目がメモリ不足の重さ。RAM 16GB だと並行作業は少し窮屈で、「ローカルは無料でもハードにコストが乗る」を実感しました。
落とし所はあっさりしています。日常の軽い日本語処理はローカル、業務の本番はクラウドAPI。社外秘を外に出さず下書きを回すのはローカルが気楽で、込み入った文脈や最終仕上げは Claude / ChatGPT に戻る。完璧な1本を探すより用途で2枚使い分けるほうが、結果的にラクでした。
よくある質問
Q1: 日本語に強いローカルLLMはどれですか？
A. 「これが絶対に一番」とは申し上げられません。日本語特化の系統としては Llama-3-ELYZA-JP / Swallow / Qwen / Gemma などがよく挙がります。私が手元で日本語を投げて確かめたのは Llama 3 と Gemma の範囲で、ELYZA-JP / Swallow / Qwen は公式情報を見て紹介しています。込み入った日本語や長文の最終仕上げは、業務でも結局クラウドAIに任せています。
Q2: 無料で使える日本語ローカルLLMはありますか？
A. Ollama などのソフトも、Llama 3 / Gemma といったモデルも無料で使えます。ただし実コストはハード側に残ります。モデルを載せる Mac のメモリ、保存するストレージ、動かす電気代です。クラウドAPIの従量課金とは「無料」の意味が違う、と捉えておくと損をしません。
Q3: Mac で日本語ローカルLLMを動かすには、どのくらいのスペックが必要ですか？
A. 私の体感では、Apple Silicon（M1 以降）で RAM 16GB あれば 8B クラスの日本語モデルが「日常チャットなら動く」ラインでした。32GB あると待ち時間が減って快適に感じます。ただし体感は使うモデルのサイズや量子化で変わるので、断定はできません。詳しいハード要件は親記事のLLM ローカルの基礎へ送ります。
Q4: 「検閲なし」のローカルLLMは使っていいですか？
A. クラウドAIが断りがちな正当な用途で使うこと自体は選択肢になります。ただし本記事では、無修正化や制限回避の具体的なやり方は書きません。モデルのライセンス（商用条項）、利用規約、公序良俗、自己責任の4点を必ず確認したうえで、最終的な判断は法務・弁護士など専門家に委ねてください。
Q5: 日本語のローカルLLMで小説は書けますか？
A. 技術的には書けます。日本語特化のモデルを入れれば、プロットや下書きは手元だけで進められます。ただし日常チャットより日本語の自然さと長文の一貫性が要求されるので、モデル選びとプロンプトの型が結果を左右します。どこまで書けるかの実際は小説専用の記事に、実際に第1話を生成した検証込みで整理しています。
Q6: ローカルLLMの日本語と、ChatGPT / Claude の日本語はどちらが上ですか？
A. 2026年時点の私の感触では、込み入った文脈の理解や長文全体の一貫性は、まだクラウドAI（ChatGPT / Claude）のほうに分があります。一方でローカルLLMには「社外秘を外に出さない」「オフラインで動く」という別の強みがあります。どちらが上かではなく、用途で使い分けるのが現実的です。
この記事は、営業を7年経験してから生成AIエンジニアになった私（aikun）が、Mac + Ollama で Llama 3 / Gemma に日本語を実際に投げた感触をもとに書いています。ELYZA-JP / Swallow / Qwen は手元で動かし込んでいないため、公式情報を見ての紹介として扱いました。記述に誤りや古い情報がありましたら、お問い合わせ（send@bon-bon-tools.com）からご連絡いただけると助かります。
関連記事
- LLM ローカルの基礎（親ハブ・構築/モデル選び/スペック/量子化はこちら） — 本記事の親ハブ。ハード要件・主要モデル一覧・量子化の詳細はこちらに集約
- Ollama の使い方 — 兄弟スポーク。日本語モデルを入れる→動かす操作はこちら
- LM Studio 使い方 — 兄弟スポーク。黒い画面が苦手な人向けの GUI で日本語モデルを動かす
- ローカルLLM 小説の現実 — 兄弟スポーク。物語づくりの用途を深掘り
- AI 小説の書き方 — クラウド／小説特化／ローカルの3系統の選び方とプロンプトの型から入りたい人向けの全体ハブ
- ローカルLLM 文章校正の現実 — 兄弟スポーク。社外秘を手元で直す校正用途に絞った話
- LLM とは — LLM 概念ハブ（クラウド主軸）
- RAG とは — ローカルLLM + ベクトルDB で社内文書を検索する文脈
- AI 議事録 おすすめ — 議事録の下処理の使い分け
- AI 翻訳 おすすめ — 翻訳ツールの使い分け
- ローカルLLM 画像生成（Ollama で足りる範囲と ComfyUI が要る境界線） — 日本語モデルと同じ Ollama で「画像」も。macOS で1枚出せる範囲と、その先の線引き
- Macでローカル画像生成は実用か（ComfyUI×FLUX） — 同じ Mac で「画像」も。日本語モデルと同じ統合メモリの世界、ComfyUI×FLUX を M1 Max で実測した実用ライン
- Macでローカル動画生成は実用か（Wan2.2 実測） — 同じ Mac で「動画」も。Wan2.2 を実機で実測し、量産できる現実ラインを切り分け
出典
- Ollama Model Library（取得：2026-07-12）
- ELYZA（Hugging Face 組織ページ）（取得：2026-06-16）
- Swallow LLM 公式サイト（取得：2026-06-16）
- Gemma（Google DeepMind）（取得：2026-06-16）