private-gpt AIツール

概要

PrivateGPTは、Zylon社のチームが開発・維持するオープンソースの「プライベートAI APIレイヤー（ローカルに立てたAIに機能を追加するための中間ソフトウェア）」です。2023年5月に初公開されると、GitHubでカテゴリー横断1位を2度獲得するほど爆発的に注目を集め、2026年時点でスター数57,000超・フォーク数7,600超に達しています。ひとことで言えば「OllamaやvLLMなどで動かしたローカルAIモデルの上に、実用的なアプリを作るために必要な高レベルな機能をまるごと提供するAPIサーバー」です。

PrivateGPTが注目される最大の理由は、データがどこにも漏れないという設計思想にあります。医療・法律・金融など機密情報を扱う現場では、ChatGPTなどのクラウドAIにデータを送ることがリスクになります。PrivateGPTはすべての処理を自分の環境（自分のPC・自社サーバーなど）の中だけで完結させるため、機密資料をAIに読ませても外部サーバーにデータが渡りません。RAG（手持ちの資料をAIに読ませて答えさせる仕組み）・MCP連携（AIと外部ツールをつなぐ標準プロトコル）・Text-to-SQL（日本語の質問をデータベース検索に変換する機能）など現代的な機能を本番レベルで搭載しており、個人開発者から大企業まで使えるように設計されています。

主な機能

• RAG（文書を読ませてAIに答えさせる）パイプライン

PDFや各種ドキュメントをアップロードするだけで、AIが内容を理解して質問に答えられるようになります。文書の解析・分割・埋め込み（ベクトル変換）・保存まで、複雑な処理をすべて自動でまとめて引き受けます。

• 引用付き回答・検索（Citations & Retrieval）

AIが答えを返すとき、どの文書のどの箇所を根拠にしたかを明示します。「AIが作り話をしていないか」を確認しやすく、業務での信頼性が高まります。

• Text-to-SQL（日本語でデータベースを操作）

SQLの書き方を知らなくても、「先月の売上が高い順に上位10件を出して」のように日本語で質問するだけでデータベースを検索できます。

• MCP（外部ツール・サービス連携）コネクター

MCP（AIとツールをつなぐための統一規格）に対応しており、さまざまな外部サービスやデータベースとAIをつなぎ合わせるカスタムフローを構築できます。

• スキル・カスタムツール機能

あらかじめ用意した定型処理（スキル）をAIに割り当てたり、自分で作ったカスタムツールをチャットごとに有効・無効にするなど、AIの行動を細かくコントロールできます。

• どのOpenAI互換推論サーバーとも接続可能

Ollama・llama.cpp・vLLM・LM Studioなど、現在主流のローカルAI実行ツールとほぼすべて接続できます。モデルを自分で動かさずに、PrivateGPTをその上のアプリ層として使うイメージです。

• テスト用ワークベンチUI付属

ブラウザで http://localhost:8080/ui を開くだけで、文書アップロード・チャット・APIデバッガーなどを試せる簡易UIが使えます。デモや社内パイロット用途に十分なクオリティです。

料金プラン

> PrivateGPT本体はオープンソース（Apache 2.0）で完全無料です。エンタープライズ向けの追加インフラ・サポートが必要な場合は、同じチームが提供するZylonプラットフォームの利用を検討する形となります。料金の詳細は公式サイト（zylon.ai）でご確認ください。

導入方法

前提条件: OllamaなどのOpenAI互換AIサーバーが起動していること。Ollamaが最も手軽です。

ステップ1：PrivateGPTをインストール

Linux / macOS の場合

# パッケージマネージャー「uv」をインストール
curl -LsSf https://astral.sh/uv/install.sh | sh

# PrivateGPT本体をインストール
uv tool install --python 3.11 \
  --find-links https://wheels.privategpt.dev/packages/ \
  "private-gpt[core]"

Windowsの場合

powershell -ExecutionPolicy ByPass -c "irm https://astral.sh/uv/install.ps1 | iex"
uv tool install --python 3.11 `
  --find-links https://wheels.privategpt.dev/packages/ `
  "private-gpt[core]"

ステップ2：起動する

# macOS / Linux
OPENAI_API_BASE=http://localhost:<llm-port>/v1 \
OPENAI_EMBEDDING_API_BASE=http://localhost:<embedding-port>/v1 \
private-gpt serve

# Windows (PowerShell)
$env:OPENAI_API_BASE = "http://localhost:<llm-port>/v1"
$env:OPENAI_EMBEDDING_API_BASE = "http://localhost:<embedding-port>/v1"
private-gpt serve

ステップ3：UIを開く

ブラウザで http://localhost:8080/ui を開くとワークベンチUIが使えます。APIは同じく http://localhost:8080 で提供されます。

> Dockerを使った起動方法や詳細な設定方法は公式クイックスタートガイド（docs.privategpt.dev）を参照してください。

こんな人におすすめ

• 機密書類をAIに読ませたい人

契約書・医療記録・社内マニュアルなど、クラウドには絶対に送れない資料をAIで検索・要約したい個人開発者や小規模チームに最適です。

• 自分のAIアプリのバックエンドを作りたい人

ChatGPTのようなUIアプリを自前で作りたい場合に、文書取り込み・検索・引用・ツール呼び出しといった「裏側の仕組み」をPrivateGPTがまるごと提供してくれます。

• ローカルAI（Ollama等）をすでに使っていてもっと活用したい人

「モデルは動かせるけど、アプリとしてどう使えばいいかわからない」という方に。PrivateGPTはOllamaなどの「モデルを動かす層」の上に乗せて使う「アプリを作る層」です。

• 医療・法律・金融など規制業種のプロトタイプを作りたい人

データを一切外部に出せない環境でも、本番レベルのAI機能を持ったアプリのプロトタイプをすばやく作ることができます。

よくある質問

Q. PrivateGPTはAIモデル自体も内蔵していますか？ A. いいえ。PrivateGPT自体はモデルを動かしません。OllamaやvLLMなど、別途用意したOpenAI互換の推論サーバー（モデルを実際に動かすソフトウェア）に接続して使います。「電子レンジ（モデル）」と「調理レシピ管理システム（PrivateGPT）」をセットで使うイメージです。

Q. 完全オフライン環境でも使えますか？ A. はい。AIモデルとPrivateGPTをどちらもローカル環境に置けば、インターネット接続なしで動作します。クラウドAPIへの依存が一切ないため、完全エアギャップ（ネットワーク遮断）環境での運用も可能です。

Q. 無料で商用利用できますか？ A. できます。PrivateGPT本体はApache 2.0ライセンスのオープンソースで、商用利用・改変・再配布が無料で認められています。エンタープライズ向けの運用サポートやインフラ一式が必要な場合は、有償のZylonプラットフォームが選択肢になります。

Q. 技術的な知識がなくても使えますか？ A. PrivateGPT本体はAPIファーストのツールで、コマンドラインの基本操作とPython環境の準備が必要です。ノーコードで使いたい方や、社内の非技術者にも使わせたい場合は、同チームが提供する企業向けのZylonプラットフォーム（別途料金）が適しています。