langfuse OSS

概要

Langfuseは、LLM（大規模言語モデル）を使ったアプリを「作って終わり」にしない仕組みを提供するオープンソースのAIエンジニアリングプラットフォームです。トレース（AIが何をどう処理したかの記録）・プロンプト管理・評価・実験比較という4つの機能がひとつに統合されており、プロトタイプから本番運用まで一気通貫でサポートします。MITライセンスで公開されており、自分のサーバーに無料でセルフホストすることも、クラウド版を即座に使い始めることもできます。2023年創業・YCombinator出身で、2026年1月にClickHouseに買収され、さらに強力なチームバックアップを得ています。

なぜ注目されるかというと、LLMアプリは普通のソフトウェアと違い「同じ入力でも毎回違う出力が返る」非決定的な性質があります。そのため従来の監視ツールでは中身が追えません。Langfuseはこの課題に正面から向き合い、AIの会話ログ・コスト・遅延・品質スコアをリアルタイムで可視化することで、「なぜおかしな回答が出たか」をすぐに突き止められます。毎月5,000万回以上SDKがインストールされ、Fortune 50企業を含む2,300社以上が利用するLLMオブザーバビリティの事実上の標準OSSになっています。

主な機能

• トレーシング（動作記録）：AIへのすべての呼び出し（LLM呼び出し・検索・埋め込み・エージェントの行動など）を階層ツリー形式で記録。コスト・遅延・トークン数をリアルタイムで確認でき、ユーザーセッション単位でも追跡できます。
• プロンプト管理：プロンプト（AIへの指示文）をバージョン管理し、コードを変更せずにボタン一つで本番環境へデプロイ・ロールバックが可能。SDKがプロンプトをクライアント側でキャッシュするため、アプリの速度に影響しません。
• LLM-as-a-Judge 自動評価：AIが自動で回答の品質を採点する仕組み。数値・真偽値・カテゴリ評価に対応しており、コードなしでUIから設定できます。人間によるアノテーションキューと組み合わせることもできます。
• 実験（Experiments）：プロンプトやモデルの変更が品質にどう影響するかを比較できる機能。データセットを使った一括評価はもちろん、データセットなしでも実行でき、CI/CDに組み込んでPRのたびに自動チェックすることも可能です。
• ダッシュボード＆分析：コスト・遅延・品質スコアを時系列で可視化するカスタムダッシュボード。ClickHouseバックエンドにより、数百GBのトレースデータを数百ミリ秒で全文検索できます。
• 広範なインテグレーション：OpenAI SDK・LangChain・LlamaIndex・LiteLLM・OpenTelemetry（OTel）など100以上のライブラリやフレームワークに対応。既存のOTel計装がそのまま使えます。
• セルフホスト対応：MITライセンスのコアをDockerまたはKubernetes（Helm）で自分のサーバーに展開可能。データを外部に出したくない場合も安心。SOC 2 Type II・ISO 27001認証・GDPR・HIPAA対応も完備（クラウド版）。

料金プラン

> ※ 料金は公式サイト（langfuse.com/pricing）で随時確認してください。以下は2026年7月時点の公式情報をもとにした概要です。

• 超過料金：有料プランはすべて $8 / 10万ユニット追加
• スタートアップ・非営利・教育機関向け割引：support@langfuse.com へ問い合わせ
• 日本リージョン：2026年4月より東京（ap-northeast-1）での専用クラウドが利用可能（jp.cloud.langfuse.com）

導入方法

① Langfuse Cloud（最短5分）

1. cloud.langfuse.com（または日本リージョン: jp.cloud.langfuse.com）でアカウントを作成
2. プロジェクトを作成し、APIキー（Public Key / Secret Key）を取得
3. SDKをインストールして環境変数を設定

pip install langfuse

import os
os.environ["LANGFUSE_PUBLIC_KEY"] = "pk-lf-..."
os.environ["LANGFUSE_SECRET_KEY"] = "sk-lf-..."
os.environ["LANGFUSE_HOST"] = "https://cloud.langfuse.com"

from langfuse import get_client
from langfuse.decorators import observe

@observe()  # これだけでトレース記録開始
def my_llm_app(question: str) -> str:
    # ここにOpenAI等のAPI呼び出しを書く
    return "回答"

② セルフホスト（Docker Compose）

# 公式リポジトリをクローン
git clone --depth=1 https://github.com/langfuse/langfuse.git
cd langfuse

# コンテナ起動（Langfuse + PostgreSQL + ClickHouseがまとめて立ち上がる）
docker compose up -d

# ブラウザで http://localhost:3000 を開く

本番環境にはKubernetes（Helm）でのデプロイが推奨されています。

こんな人におすすめ

• AIアプリを個人開発中で「なぜ変な回答が出るか」を調べたい人：無料のHobbyプランでトレースを記録するだけで、どのステップで何が起きたか一目で分かります。プログラミング経験があれば数行追加するだけで導入できます。
• プロンプトを頻繁に書き換えている人：プロンプトをコードの外でバージョン管理し、「どのバージョンが一番良かったか」をスコア付きで比較できます。GitのようにAIへの指示文を管理するイメージです。
• データを外部に出したくない・個人情報を扱うアプリを開発している人：MITライセンスで自前サーバーにセルフホストできるため、会話データが一切外部に送られません。
• 本番運用に向けてコストと品質を管理したいチーム：トークン消費量・APIコスト・回答品質のスコアをダッシュボードで一元管理でき、LLM-as-a-Judgeによる自動評価で人間のレビュー負荷を下げられます。

よくある質問

Q. プログラミングの経験がほぼない場合でも使えますか？ A. クラウド版のダッシュボード自体はノーコードで閲覧・操作できます。ただし、自分のAIアプリにトレース記録を追加するにはPythonまたはJavaScriptで数行のコードを書く必要があります。AIコーディングツール（CursorなどのIDE）向けのLangfuse Agent Skillも用意されており、「プロンプトを自動移行して」と指示するだけで設定できる仕組みも整っています。

Q. OpenAI以外のモデル（Anthropic・Gemini・ローカルモデルなど）でも使えますか？ A. 使えます。OpenTelemetry標準やLiteLLMゲートウェイ経由で、Anthropic・Google・Mistral・Ollama（ローカルLLM）など事実上あらゆるモデルに対応しています。対応モデルのコスト計算も自動で行われます。

Q. 無料プランでどこまでできますか？ A. Hobby（無料）プランでは月5万ユニット（トレース・観測値・スコアの合計）まで利用でき、トレーシング・プロンプト管理・評価・SDK連携といったコア機能がすべて使えます。クレジットカードの登録も不要です。個人の趣味開発やプロトタイプ検証には十分な量です。

Q. セルフホストと有料クラウドの一番の違いは何ですか？ A. セルフホスト（OSS）は無料でユーザー数・データ量・保持期間に制限がなく、データが自分のサーバーを離れません。ただしPostgreSQLやClickHouseなどのインフラを自分で管理する手間がかかります。クラウド版はその手間がゼロで、有料プランではSOC2・ISO27001などのコンプライアンス証明書も提供されます。