Ollama MCP Server

开发者工具

简介

Ollama 本地大模型管理 MCP Server，让 AI 管理本地 Ollama 实例。支持列出已安装模型、拉取新模型、删除模型、查看模型信息、运行模型推理。结合其他 MCP 可实现本地 AI 工作流的自动化管理。

核心功能

模型列表查询拉取模型删除模型模型信息查看推理测试

使用场景

1 开发者让 AI 列出本地所有 Ollama 模型及磁盘占用

2 让 AI 批量拉取 DeepSeek R1 各个蒸馏版本进行对比测试

3 定期让 AI 检查并清理不常用的模型释放磁盘空间

4 让 AI 对比两个模型的 token 生成速度和质量

5 自动化测试场景中，让 AI 切换不同模型执行相同任务并评分

快速开始

第一步：确保已安装 Ollama（ollama.com 下载）并启动服务。第二步：确认 ollama serve 在本地运行（默认 11434 端口）。第三步：在终端执行安装命令。第四步：在 MCP 客户端配置文件中添加配置。第五步：重启客户端，在对话中让 AI 管理本地模型。

安装命令

        $ npx -y ollama-mcp-server
      

配置示例

{
  "mcpServers": {
    "ollama": {
      "command": "npx",
      "args": ["-y", "ollama-mcp-server"],
      "env": {
        "OLLAMA_HOST": "http://localhost:11434"
      }
    }
  }
}

使用技巧

• 默认连接 localhost:11434，远程 Ollama 需修改 OLLAMA_HOST

• 拉取大模型（如 deepseek-r1:70b）需要较长下载时间

• 结合 Filesystem MCP 可以批量管理 Modelfile 配置

• 定期检查磁盘空间，大模型可能占用数十 GB

平台支持

Claude Desktop, Cursor, Continue