「この数字、ChatGPTに入れていいの？」という不安
AIを使い始めてからずっと、心のどこかに引っかかりがあった。
契約書の条件、クライアントの財務データ、提案書の核心部分——これらをクラウドのAIに貼り付けるたびに、「本当にこれでいいのか」と思っていた。
OpenAIもAnthropicも、企業向けプランではデータを学習に使わないと明言している。それは知っている。でも、どこか釈然としない感覚が残る。コンサルタントとして、クライアントの情報を守る責任がある立場としては、なおさらだ。
そこで行き着いたのがローカルAIだった。
ローカルAIとは何か
一言で言えば、インターネットに接続せず、自分のPC上だけでAIを動かす仕組みだ。
データは一切外に出ない。クラウドサービスへの送信もない。電気代と自分のPCさえあれば、追加費用ゼロで動き続ける。
数年前まではこれを実現するには専門知識と高性能サーバーが必要だった。しかし2024〜2025年にかけて、Ollamaというツールの登場で状況が一変した。ターミナルに3行打つだけで、個人のノートPCでAIが動く時代になった。
32GBメモリのノートPCで十分動く
私が使っているのはDell Latitude 5310。先日32GBにメモリを換装したばかりの機種だ。
この構成で問題なく動くモデルがある。Qwen2.5 14Bだ。
Alibaba（アリババ）が開発した大規模言語モデルで、日本語の精度が高く、文書作成・分析・要約をこなせる。ファイルサイズは約9GB。32GBのRAMがあれば、ブラウザやNotionと同時に起動しても余裕がある。
セットアップは驚くほど簡単だ。
# Ollamaをollama.aiからインストール後
ollama pull qwen2.5:14b
ollama run qwen2.5:14b
これだけで動く。ブラウザUIが欲しければOpen WebUIというツールを追加すれば、ChatGPTと同じ感覚で使える。
実際に経営業務に使ってみた
私は不動産×投資×コンサルティングの会社を経営している。
ローカルAIを導入して最初に試したのは提案書のドラフト生成だった。
クライアントの財務状況、不動産ポートフォリオの詳細、投資方針——これらを含む情報をQwen2.5に投げて、提案書の骨子を作らせた。今まではこの作業、クラウドAIには入れられないと思っていたので手作業でやっていた部分だ。
結果は想定以上だった。叩き台として十分な精度の文章が出てきた。あとは自分でブラッシュアップするだけ。作業時間が体感で40～50%短縮された。
次に試したのは契約書のリスク分析だ。「この条項で問題になりそうな点を指摘してほしい」という形で投げると、チェックリスト形式で返ってくる。法的な最終判断は弁護士に委ねるにしても、事前のスクリーニングとしては十分使える。
Claude・Gamma・ローカルAIの使い分け
今の私のAI活用は3層構造になっている。
ローカルAI（Qwen2.5）が担うのは、機密情報を含む文書の処理だ。提案書・契約書・財務データ分析はすべてここで完結させる。外部に一切出さない。
Gammaは、できあがった内容をスライドや提案資料として見栄えよく整える作業に使う。クライアントに見せるアウトプットの「見た目」を整えるためのツールだ。
Claude（クラウド版）は、戦略的な判断・設計・複雑な思考が必要な場面に使う。会社全体の設計や、ブログ記事の構成を考える場面などだ。
この3つを使い分けることで、機密リスクを下げながら生産性を最大化できる。
向いている人・向いていない人
ローカルAIが向いているのは：
– 社内の機密情報をAIで処理したいが、クラウドに上げることをためらっている人
– 士業・コンサル・経営者など、守秘義務が重い職種の人
– 月額のAPI費用を抑えたい人
– 「自分でインフラを持つ」ことに価値を感じる人
逆に向いていないのは：
- PCの性能が低い人（8GB RAM以下では厳しい）
- セットアップに時間をかけたくない人（とはいえ30分で完了するが）
- クラウドAIの最新モデルと同等の精度を求める人（現状、差はある）
まとめ：「自分でAIを持つ」という選択肢
2026年現在、AIは使うものから「持つもの」になりつつある。
クラウドサービスに依存し続けることも一つの選択だ。しかし機密情報を扱う立場であれば、ローカルAIという選択肢を知っておく価値は十分にある。
30分のセットアップで、外に一切出ないAI環境が手に入る。投資対効果で考えれば、これほどコスパのいいインフラ投資はなかなかない。
▶ noteで続きを読む → https://note.com/daichi9567
コメントを残す