Ollama– tag –

ローカルで無料のRAGを組むとき、埋め込みモデルの選択肢は「完全ローカルのOSSモデル」と「無料枠のあるクラウドAPI」の2系統に分かれる。日本語なら名古屋大学のruri-v3が有力候補で、実測ベンチマークではGemini Embedding-001にわずかな差まで迫る。実際にOllamaで運用して見えたリランキングの必要性も含めて整理する。

クライアントの契約内容や研究データなど、外部に出せない情報を抱えながら生成AIを使いたい個人事業主・小規模チーム向けに、ローカルLLM（Ollama等）という選択肢を実機検証をもとに紹介。精度面のトレードオフを正直に書き、限定用途からの使い方を提案する。