LiteLLM OSS

概要

100以上のLLMをOpenAI形式の統一APIで呼び出せるライブラリ/プロキシ。コスト管理・フォールバックも担う。

AIアプリ開発では「後からモデルを変えたくなる」ことが必ず起きます。LiteLLMを挟んでおくと、Claude・GPT・Gemini・ローカルLLMをコード1行の変更で切り替えられます。プロキシモードでは部署ごとの利用上限やAPIキー管理もでき、企業の「LLMゲートウェイ」として広く使われています。

主な機能

• 全プロバイダをOpenAI互換形式で統一
• プロキシとしてコスト管理・制限・キー管理
• フォールバック・ロードバランス

料金

無料枠から始められ、必要に応じて有料プランに拡張できます。

• OSS無料 / エンタープライズ有料

※料金は変更される場合があります。最新の情報は公式サイトでご確認ください。

こんな人におすすめ

• マルチLLM構成のアプリ・社内基盤

よくある質問

Q. OpenRouterとの違いは?

A. OpenRouterは外部サービス(課金も集約)、LiteLLMは自分で運用する仕組み(各社と直接契約)です。データ経路を自社管理したいならLiteLLMです。

Q. 個人開発でも価値ありますか?

A. ライブラリとして使うだけでもモデル切り替えが楽になり、十分価値があります。