Ollama OSS

概要

Ollamaは、Llama・Gemma・Qwen・DeepSeek・Mistralなど多数のオープンウェイトLLMを、ローカルマシン上でワンコマンド（ollama run <モデル名>）で起動・管理できるオープンソースのLLMランタイムです。macOS・Windows・Linuxにネイティブ対応し、NVIDIA GPU・AMD GPU・Apple Silicon（MLXエンジン）・CPU専用環境まで幅広いハードウェアをサポートします。Go言語で書かれたデーモンがモデルのダウンロード・キャッシュ・推論を一元管理するため、Dockerのような感覚で手軽にLLMを扱えます。

OpenAI Chat Completions API互換のRESTエンドポイント（localhost:11434）を標準提供しており、LangChain・LlamaIndex・ContinueなどOpenAI向けに書かれたツールをコード変更なしで接続できます。2026年初頭にはAnthropic Messages API互換のエンドポイントも追加され、Claude Codeなどのエージェントツールをローカルモデルのバックエンドとして使えるようになりました。企業の資金調達額は$88Mに達し、8.9百万人以上の開発者が利用しています。

主な機能

• マルチプラットフォーム対応・GPU加速: macOS（Apple Silicon MLXエンジン）・Windows・Linuxをネイティブサポート。NVIDIA・AMD GPUの自動検出と加速、Apple Silicon上ではMLXフレームワークによる高速推論（multi-token predictionで最大約90%高速化）を実現します。

• OpenAI / Anthropic互換REST API: localhost:11434にOpenAI Chat Completions APIと互換性のあるエンドポイントを提供。さらに2026年初頭よりAnthropic Messages API互換エンドポイントも追加されており、既存のツールやフレームワークをそのまま利用できます。

• 豊富なモデルライブラリ: 公式ライブラリからLlama・Gemma・Qwen・DeepSeek・Mistral・Phi・gpt-ossなど多数のモデルをollama pull一発でダウンロード可能。Hugging Face上のGGUFファイルをModelfileで取り込むことで、独自のファインチューニング済みモデルも利用できます。

• Modelfileによるカスタマイズ: Dockerfileに相当するModelfileにより、システムプロンプト・温度・コンテキストウィンドウサイズ・ストップトークン・アダプタ層を設定し、再現性のあるモデル設定を記述できます。

• ollama launchによるエージェント統合: ollama launch claudeやollama launch codex-appなどのコマンドで、Claude Code・OpenAI Codex・Copilot CLI・OpenCodeなどのコーディングエージェントを自動的に設定・起動できます。必要なモデルが未取得の場合は自動ダウンロードも行います。

• Python / JavaScript公式ライブラリ: ollama-pythonおよびollama-jsの公式SDKが提供されており、数行のコードでPython・TypeScriptアプリケーションからOllamaを呼び出せます。REST APIの全機能をカバーし、過去バージョンとの後方互換性も維持しています。

• Ollama Cloud（ハイブリッド推論）: ollama run qwen3-coder-480b:cloudのように:cloudサフィックスを付けるだけで、ローカルと同じAPI・CLIのまま、Ollamaのクラウドインフラ上で大規模モデルを推論できます。プロンプト・レスポンスデータはログ収集・学習利用されません。

料金プラン

> 注意: クラウドプランの使用量はトークン数ではなくGPU稼働時間で計算されます。セッション制限は5時間ごと、週間制限は7日ごとにリセットされます。ローカルでのモデル実行は常に無制限・無課金です。最新の制限値は公式料金ページ（ollama.com/pricing）で必ず確認してください。

導入方法

1. インストール

# macOS（Homebrew）
brew install ollama

# Linux（公式スクリプト）
curl -fsSL https://ollama.com/install.sh | sh

# Windows
# ollama.com からインストーラーをダウンロード
# winget install ollama

2. モデルを取得して実行

# モデルをダウンロード
ollama pull gemma4

# インタラクティブチャットを起動
ollama run gemma4

3. REST APIで呼び出す

curl http://localhost:11434/api/chat -d '{
  "model": "gemma4",
  "messages": [{"role": "user", "content": "Why is the sky blue?"}],
  "stream": false
}'

4. Python SDKから使う

from ollama import chat

response = chat(model='gemma4', messages=[
  {'role': 'user', 'content': 'Why is the sky blue?'}
])
print(response.message.content)

5. コーディングエージェントと統合する

# Claude Codeをローカルモデルで起動
ollama launch claude

6. Dockerを使う場合

# Docker Hubの公式イメージを利用
docker run -d -v ollama:/root/.ollama -p 11434:11434 ollama/ollama

こんな人におすすめ

• プライバシー重視の開発者・研究者: 機密データをクラウドに送りたくない場合、ローカルで完結する推論環境としてOllamaが最適です。プロンプトはデバイス外に出ず、インターネット接続なしでも動作します。

• LLMアプリケーションのプロトタイピング: OpenAI互換APIを標準提供しているため、OpenAIやAnthropicのAPIで開発済みのコードをほぼそのままローカルLLMで動作確認できます。APIキーのコスト不要で高速な試行錯誤が可能です。

• エージェント・RAGシステムの構築者: ollama launchによるClaude Code・Codexとの統合、埋め込みモデル（nomic-embed-textなど）のサポート、LangChain・LlamaIndex・OpenHandsとの連携により、ローカルで完結したRAGパイプラインやコーディングエージェントを構築できます。

• ハードウェアリソースが限られた個人開発者: GPUは必須でなく、CPUのみでも動作します。Apple SiliconのMacBookならUnified Memoryを活用した高速推論が可能で、8GBのRAMがあれば7Bクラスのモデルを快適に動かせます。

よくある質問

Q. GPUがなくてもOllamaは動きますか？ A. はい、動作します。OllamaはGPUなしでCPUのみでも実行できます。GPUがあれば推論は大幅に高速化されますが、必須ではありません。Apple SiliconのMacはUnified Memoryを活用するため、GPUなしの環境の中でも特に効率的に動作します。

Q. OpenAIのSDKやLangChainをそのまま使えますか？ A. はい。Ollamaはポート11434にOpenAI Chat Completions API互換のエンドポイントを提供しています。LangChain・LlamaIndex・OpenHandsなど、OpenAI向けに書かれたツールはベースURLをhttp://localhost:11434に変更するだけで利用できます。2026年初頭からはAnthropic Messages API互換エンドポイントも追加されています。

Q. Hugging FaceのモデルをOllamaで使えますか？ A. はい。GGUFフォーマットのモデルファイルをダウンロードし、FROM ./model.ggufと記述したModelfileを作成後、ollama create mymodel -f Modelfileを実行することで、公式ライブラリ外のモデルも利用できます。

Q. ローカル実行とOllama Cloudは何が違いますか？ A. ローカル実行は自分のハードウェア上でモデルを動かすため、完全無料・無制限で、データが外部に出ません。Ollama Cloudは、自前GPUがない場合やVRAMに収まらない大規模モデルを利用したいときに使うマネージド推論サービスです。CLIやAPIの使い方は全く同じで、モデル名に:cloudを付けるだけで切り替えられます。クラウド利用にはollama.comアカウントが必要です。