文档
上手 CloudGPU 需要知道的都在这儿。
rocket_launch快速上手
smart_toy让 AI 编程助手替你租卡
CloudGPU MCP 服务器让 Cursor、Cline、opencode、Claude Code 等 MCP 客户端先报价，你同意后租卡，跑任务、下载结果，然后关机。每台实例的预算和时长上限都由 CloudGPU 的服务器执行。
设置 MCP 服务器 →api把实例当成 API 接口用
写给做 AI agent、聊天机器人，或者任何需要一个按小时固定收费、而不是按 token 计费的大模型后端的人。
每个跑着的 Ollama 实例都会给你一个兼容 OpenAI 的接口。在控制台里打开这个实例，点 API 按钮，把下面任意一段复制走：
把 <random-id> 换成实例行上显示的 id。
OpenAI Python SDK
from openai import OpenAI
client = OpenAI(
base_url="https://<random-id>-i.cloudgpu.app/v1",
api_key="ollama", # any non-empty string
)
resp = client.chat.completions.create(
model="qwen2.5:0.5b",
messages=[{"role": "user", "content": "Hello"}],
)
print(resp.choices[0].message.content)
curl
curl https://<random-id>-i.cloudgpu.app/api/chat \
-H "Content-Type: application/json" \
-d '{
"model": "qwen2.5:0.5b",
"messages": [{ "role": "user", "content": "Hello" }],
"stream": false,
"keep_alive": "30m"
}'
提示：keep_alive
每次请求都带上 "keep_alive": "30m" ，让模型在最后一次调用之后还在显存里留 30 分钟。不带的话，Ollama 空闲 5 分钟就把模型卸掉，你下一次请求要多等 30 到 90 秒的冷加载。
memory该选哪张卡？
下面的价格都是按小时的零售价。
| 模型大小 | 所需显存 | 推荐卡型 | 价格 |
|---|---|---|---|
| 0.5B – 8B（Qwen 2.5、Llama-3.1-8B、Mistral-7B） | 16 GB | RTX 4090 24 GB | $0.39/小时 |
| 13B – 32B 量化（Qwen-32B-AWQ、CodeLlama-34B） | 32 GB | RTX 5090 32 GB | $0.69/小时 |
| 30B 以上 8-bit，或 70B 4-bit（短上下文） | 48 GB | RTX 4090 48 GB | $0.69/小时 |
| 32B 4-bit 长上下文，或 13B–32B 8-bit 短上下文 | 40 GB | A100 40G | $0.79/小时 |
| 70B 4-bit 长上下文（Llama 3.3 70B AWQ、Qwen2.5-72B-Instruct-AWQ），或 8-bit 短上下文 | 80 GB | A800 80G | $1.19/小时 |
| 长上下文大模型 + 长链推理 | 96 GB | H20 96G | $1.29/小时 |
| 企业级推理 / 多 agent 生产环境 | 80 GB | H800 80G | $1.79/小时 |
部分卡型可以一台实例租多张（最多 8 张）：在部署页选张数，每小时价格按张数乘。
help常见问题
怎么计费？expand_more
按 GPU 使用的分钟数计费，最少 1 分钟。实例运行期间，每开始一个小时先从余额预扣一小时；销毁时，没用完的分钟回到余额。所有价格以美元标示。 计费规则与算例
最少要充多少？expand_more
充值 $5 起。注册不送钱。
实例能停了再开吗？expand_more
你可以随时销毁实例。目前停掉的实例会把卡释放出去 —— 要继续用就得新开一台。跨重启的持久化存储在计划里。 销毁实例前要保存什么
实例里预装了什么？expand_more
每个模板都是现成镜像，带 root SSH：Ollama（空的，或预装 Qwen、DeepSeek-R1、Llama、Gemma、Mistral、GLM、Phi）、JupyterLab + Ollama、ComfyUI（FLUX 等权重需自行下载），或 LLaMA-Factory。提供 API 的模板（Ollama、ComfyUI）还会自带一个公网 HTTPS 地址。ComfyUI 模板只安装 ComfyUI，不含 FLUX 等模型权重；实例就绪后请自行下载所需权重。
有 API 吗？expand_more
有。每台实例都开着一个兼容 OpenAI 的 REST 接口（大模型模板），或者对应模型自己的 REST 接口（图像 / 音频模板）。在控制台里任意运行中的实例上点 API 按钮，就有可以直接复制的 curl、Python 和 Node 示例。
怎么找客服？expand_more
发邮件到 support@cloudgpu.app，或者去联系页。公测期间我们争取 24 小时内回复。
模板页和部署页有什么区别？expand_more
模板页是目录 —— 搜索、筛选所有能跑的东西，看哪些已就绪、哪些还没开放。部署页是真正开机的地方：选一个模板或者一张裸卡，选卡型，拿到地址。逛在模板页，开在部署页。
能部署自己的模型吗？expand_more
大模型方面，我们的 Ollama 模板支持 Ollama 库里的任何模型 —— 部署完点「选择模型」按钮，从 qwen2.5:0.5b 到 llama3.1:70b 想拉哪个拉哪个。其他模型可以租裸 GPU（部署页 → Raw GPU），通过 SSH 自行安装。
怎么把部署好的模型接到我的应用上？expand_more
在控制台里打开运行中的实例，点 API 按钮。你会拿到一个 /v1/chat/completions 的 OpenAI 兼容地址，还有可以直接粘的 curl、Python（requests 和 OpenAI SDK）、Node.js 代码。接进 LangChain / AutoGen / CrewAI 只要一行。
从 Hugging Face 或 GitHub 下载很慢怎么办？expand_more
在实例的终端里运行 cloudgpu-net on，就会给当前这个 shell 打开下载加速，对 Hugging Face、GitHub、Civitai 这类网站有效。打开期间 pip 等其它下载可能会变慢：用 cloudgpu-net off 关掉，用 cloudgpu-net status 查看当前状态。启动脚本里，在下载之前先运行 cloudgpu-net on。机器上没有加速时，命令会直接告诉你。
还有别的问题？
联系客服