OllamaとOpen WebUIでローカルLLM環境を構築する完全ガイド

ローカルLLMのメリット

データを外部に送信せず、API費用もかからないAI環境を自分のPCに構築できます。Ollama(モデル実行)+ Open WebUI(チャットUI)の組み合わせが現在の定番です。

必要なもの

• メモリ16GB以上のPC(8GBでも小型モデルは動作)
• Docker(Open WebUI用)

手順1: Ollamaのインストール

# macOS / Linux
curl -fsSL https://ollama.com/install.sh | sh

# モデルの実行(初回は自動ダウンロード)
ollama run llama3.3

これだけでターミナルからLLMと対話できます。日本語なら qwen 系モデルも高品質です。

手順2: Open WebUIの起動

docker run -d -p 3000:8080 \
  --add-host=host.docker.internal:host-gateway \
  -v open-webui:/app/backend/data \
  --name open-webui \
  ghcr.io/open-webui/open-webui:main

ブラウザで http://localhost:3000 を開くと、ChatGPT風のUIが表示されます。OllamaのモデルはUIから自動で認識されます。

次のステップ

• ドキュメントを読み込ませるRAG機能(Open WebUI内蔵)
• より高性能なモデル(メモリに余裕があれば大型モデル)
• 常時起動サーバー化して家庭内のどこからでも利用