llm-app OSS

概要

llm-appは、Pathway社が公開するOSS（オープンソースソフトウェア）のアプリテンプレート集です。RAG（手持ちの資料をAIに読ませて答えさせる仕組み）やAI検索パイプラインを、すぐに本番環境で動かせる「すぐに使えるクラウドテンプレート」として設計されています。Dockerコンテナ（アプリを箱ごと持ち運べる仕組み）で動作し、GCP・AWS・Azure・Renderなどの主要クラウドや、自社サーバー（オンプレミス）へもそのままデプロイ（展開）できます。

このプロジェクトが注目される最大の理由は、「データが古くならない」点です。Google Drive・SharePoint・S3・Kafka・PostgreSQLといった外部データソースと常時同期し、ファイルの追加・更新・削除をリアルタイムで反映します。通常のRAGシステムでは、ベクターDB（AIが文書を検索するための専用データベース）・キャッシュ・APIフレームワークを別々に用意する必要がありますが、llm-appはこれらをすべて一体化した構成になっており、追加のインフラ設定なしに動かせます。GitHubのスター数は約38,300（2026年7月時点）と高く、活発なコミュニティが形成されています。

主な機能

• リアルタイムデータ同期: Google Drive・SharePoint・S3・Kafka・PostgreSQL・ローカルファイルシステムなど多彩なデータソースと自動的に同期。資料を更新するだけでAIの知識も即座に更新されます。
• オールインワン構成: ベクター検索インデックス・キャッシュ・APIサーバーが一体化されており、Pinecone・Weaviate・Redisといった外部サービスを別途契約・設定する必要がありません。
• 複数の検索方式に対応: ベクター検索・ハイブリッド検索・全文検索をインメモリ（メモリ上）かつキャッシュ付きで実現。数百万ページ規模のドキュメントにも対応します。
• Adaptive RAG（コスト削減型RAG）: Pathwayが独自開発した手法で、精度を維持しながらAI呼び出しのトークンコスト（AIへの質問・回答に使われる文字数単位の料金）を最大4分の1に削減できます。
• マルチモーダル対応: GPT-4oを使ったPDF・Word・PowerPointのパース（読み取り）のほか、動画コンテンツへの質問応答パイプライン、スライドのライブインデックス作成など、テキスト以外のコンテンツにも対応したテンプレートが用意されています。
• 完全プライベート（ローカル）動作: Mistral＋Ollama（ローカルで動くオープンソースAI）を組み合わせた完全オフライン版のRAGパイプラインも用意されており、外部へデータを送りたくない用途に使えます。
• Docker＋Streamlit UI対応: アプリはDockerコンテナとして起動し、HTTPのAPIエンドポイントを公開します。一部テンプレートにはStreamlit（Pythonで作れるかんたんなWeb画面）のUIも付属しており、すぐに動作確認できます。

料金プラン

※なお、BSL 1.1ライセンスのコードは4年後にApache 2.0ライセンス（完全オープンソース）に自動的に移行します。llm-appのテンプレートコード自体はOSSとして公開されており、自由に利用可能です。

導入方法

① リポジトリをクローン（コードをダウンロード）する

git clone https://github.com/pathwaycom/llm-app.git
cd llm-app

② 環境変数ファイル（.env）を作成してAPIキーを設定する

APP_VARIANT=contextful
PATHWAY_REST_CONNECTOR_HOST=0.0.0.0
PATHWAY_REST_CONNECTOR_PORT=8080
OPENAI_API_KEY=<あなたのOpenAI APIキー>
PATHWAY_CACHE_DIR=/tmp/cache

③ Dockerでビルド＆起動する（推奨）

docker compose run --build --rm -p 8080:8080 llm-app-examples

起動が完了すると、0.0.0.0:8080 でAPIが公開されます。各テンプレートのフォルダ内にある README.md に、そのテンプレート固有の手順と設定例が記載されています。

④ YAMLファイルでカスタマイズする

データソース（Google Drive・SharePoint・ローカルフォルダなど）や使用するLLM（大規模言語モデル）の種類は、app.yaml を編集するだけで切り替えられます。Pythonコードを深く触らなくてもカスタマイズ可能です。

対応OS: macOS・Linux（Windowsの場合はDocker経由での利用を推奨）

こんな人におすすめ

• 自分の社内資料・PDFをAIに読ませてQ&Aツールを作りたい個人開発者: ベクターDBなどの外部サービスを別途契約・管理する必要がなく、Dockerひとつで完結するのでインフラ知識が少なくても始めやすいです。
• データが常に最新であることにこだわりたい人: Google DriveやSharePointの資料が更新されたら自動でAIの回答も更新される仕組みなので、「昨日更新した資料をAIがまだ知らない」という問題が起きません。
• データを外部サービスに送りたくない・プライバシーを重視する人: Mistral＋Ollamaを使ったローカル完結版テンプレートがあり、インターネットへのデータ送信なしにAIアプリを動かせます。
• 金融レポートや複雑なPDFを扱う業務に使いたい人: GPT-4oを使ったマルチモーダルRAGテンプレートで、表・グラフを含む非構造化ドキュメントを構造化データとして扱い、自然言語で質問できます。

よくある質問

Q. プログラミングの経験がなくても使えますか？ A. 基本的なターミナル（コマンド入力画面）操作とDockerの起動経験があれば、テンプレートを動かすこと自体は難しくありません。ただし、データソースのカスタマイズや本番環境へのデプロイにはPythonとYAMLの基礎知識があるとスムーズです。

Q. OpenAI以外のAIモデルは使えますか？ A. はい。Hugging FaceのモデルやMistral、Ollamaを使ったローカルモデルにも対応しています。また、LlamaIndexやLangChainとの統合も公式にサポートされており、既存のAI開発ツールと組み合わせやすいです。

Q. 商用のサービスに使っても大丈夫ですか？ A. llm-appのテンプレートコード自体は商用利用可能です。基盤フレームワークのPathwayはBSL 1.1ライセンスで、多くの商用用途では無料で利用できますが、「ストリームデータ処理サービスとして他社へ再販する」用途は対象外となります。詳細は公式ライセンスページ（pathway.com/license）でご確認ください。

Q. Windows環境では動きますか？ A. Windowsへのネイティブインストールは公式にサポートされていません。Windows環境ではDockerを使って動かすことが公式に推奨されています。