MacやLinux、Windowsのローカル環境で手軽にオープンソースLLMを稼働できる標準ツール「Ollama」が、最新版「Ollama v0.8.0」を正式リリースしました。
本アップデートの最大の目玉は、Anthropicが提唱し急速に標準化が進むオープン規格「Model Context Protocol(MCP)」クライアントのネイティブ統合です。
ローカルLLMからデータベース、ローカルファイル、社内APIなどの外部ツール群に対して、複数のMCPリソースを並列かつ安全に直接呼び出せるようになりました。
また、構造化データ出力(JSON Schema準拠)の文法制約サンプリング(Grammar-based Decoding)をGPUカーネルレベルで徹底的に再設計。
出力の型安全性を100%維持しながら、従来のサンプリングオーバーヘッドを削減してレイテンシを約40%短縮しました。
社外クラウドへ一切データを送信することなく、手元のワークステーションだけで高精度な自律エージェントや社内RAGシステムを完全オフラインで運用可能です(一次ソース:GitHub ollama/ollama リポジトリ / Ollama公式ブログ)。
