#local-llm (5)

L

llama.cpp OSS

ローカルLLM実行の土台となる推論エンジン。C/C++実装により、GPUがない普通のPCでもAIモデルを動かせる。

T

Text Generation WebUI OSS

ローカルLLM向けの多機能Web UI(通称oobabooga)。複数の実行エンジンと細かなパラメータ制御に対応する。

O

Ollama OSS

ローカルマシン上でオープンソースLLMをワンコマンドで起動・管理できるOSSランタイム。macOS・Windows・Linux対応、OpenAI互換APIとAnthropic互換APIを同時に提供し、プライバシーを保ちながら開発ワークフローに組み込める点が最大の特徴。

P

Perplexica OSS

Perplexityのオープンソース版を目指すAI検索エンジン。ローカルLLMと組み合わせて完全自前のAI検索が作れる。

L

Llama AIモデル

Metaのオープンウェイトモデルシリーズ。ローカル実行・ファインチューニングが可能で、オープンモデルエコシステムの中心。