Skills Plugins MCP Prompt Model 导航 博客 资讯 我的中心
AIエージェント #Python#混合部署#Apache 2.0

vLLM MCP Server

Exposes vLLM capabilities to AI assistants, enabling chat completions, model management, and platform-aware container control with automatic detection of Docker/Podman and GPU availability across Linux, macOS, and Windows.

AIエージェント 0 プラットフォーム 0 機能

インストール

uvx vllm-mcp-server

上記の設定をMCPクライアントの設定ファイル(Claude Desktop は claude_desktop_config.json)に追記し、クライアントを再起動してください。

{
  "mcpServers": {
    "vllm-mcp-server": {
      "command": "uvx",
      "args": [
        "vllm-mcp-server"
      ],
      "env": {
        "VLLM_MODEL": "<VLLM_MODEL>",
        "VLLM_API_KEY": "<VLLM_API_KEY>",
        "VLLM_BASE_URL": "<VLLM_BASE_URL>",
        "VLLM_HF_TOKEN": "<VLLM_HF_TOKEN>",
        "VLLM_DOCKER_IMAGE": "<VLLM_DOCKER_IMAGE>",
        "VLLM_CONTAINER_NAME": "<VLLM_CONTAINER_NAME>",
        "VLLM_DEFAULT_TIMEOUT": "<VLLM_DEFAULT_TIMEOUT>",
        "VLLM_DOCKER_IMAGE_CPU": "<VLLM_DOCKER_IMAGE_CPU>"
      }
    }
  }
}

上記の設定をMCPクライアントの設定ファイル(Claude Desktop は claude_desktop_config.json)に追記し、クライアントを再起動してください。

出典:公開されているMCPサーバーカタログ。当サイトは独立した第三者ディレクトリであり、各MCPサーバーの提供元との提携や推奨関係はありません。

每日精选 Skill 推荐,免费送到你邮箱

输入邮箱,每天接收一个精选 AI Agent 技能推荐。完全免费,持续更新。

提交后我们会发送一封确认邮件,点击邮件里的链接才会开始收信。

完全免费,取消任意时间。我们不会发送垃圾邮件。