腾讯云国际版 TI-ONE 实战:19 种节点真实单价、自购 CVM 与平台代购的价差结构、GPU 虚拟化边界与七个部署陷阱全解析(2026)

📅 · 腾讯云国际版实战教程 - ChengziCloud

一句话结论

Meta Description: 2026 腾讯云国际版 TI-ONE:19 种节点单价、8 卡 V100 35.

本文要点
  • 先划边界:TI-ONE、自建 GPU CVM、TKE GPU 节点池、直接调 API
  • 地域只有一个:新加坡(以及文档里三个「假地域」)
  • 两种买法:平台代购 vs 自购 CVM 加节点
  • 19 种节点规格的真实单价(附每核、每卡折算)
  • 自购 CVM 的盈亏线:697.23 USD/月
  • GPU 虚拟化:只有 T4,且必须在建组时就对
  • 实战:从开发机到在线服务的完整链路
  • 七个部署陷阱

Meta Description: 2026 腾讯云国际版 TI-ONE:19 种节点单价、8 卡 V100 35.058 USD/h、自购 CVM 软件费 98.47 USD/月、仅新加坡地域,含七个部署陷阱。

关键词:腾讯云国际版、TI-ONE、大模型训练平台、模型训练、在线推理服务、开发机、Notebook、任务式建模、GPU 虚拟化、T4、V100、PNV5b、软件费、资源组、RDMA、vLLM、新加坡、计费、成本优化

前言(先给结论):腾讯云国际版的 TI-ONE(产品 ID 1141) 是一个「大模型训练 + 推理」的一站式平台:开发机(Jupyter / VS Code / SSH)、任务式建模(DDP / MPI / Horovod / PS-Worker / Ray)、在线服务(0.1 卡粒度、弹性伸缩、流量切分)、模型广场(混元 + DeepSeek 等),一条链路全覆盖。听起来是把 GPU 那堆脏活包了,但它有四个必须先认清的前提,否则预算和工期都会跑偏:① 国际站的可用地域只有新加坡一个——文档里到处出现的 ap-guangzhou、ap-shanghai 域名是中文站残留,照抄一定连不上;② 它有两种买法,价差结构完全非线性——平台代购 19 种节点规格按秒计费,自购 CVM 加节点只收「软件费」但只覆盖 2 种规格;③ 同样的 GPU,多卡节点不一定更便宜:1 张 T4 的 8C32G 节点 1.09 USD/h,4 张 T4 的 180C452G 节点 6.6606 USD/h,折算单卡 1.665 USD——比买 4 台单卡机贵 52.8%;V100 更极端,2 卡节点折算单卡 3.0039 USD,4 卡节点却要 4.57275 USD,贵 52.2%;④ GPU 虚拟化(0.1 卡粒度)在国际站只支持 T4,而且节点必须在建资源组时就落在支持虚拟化的型号上,事后补不了。一句话选型:短期试验与超参搜索用平台代购按量 + 0.1 卡虚拟化;长期稳定负载先算「697.23 USD/月」这条自购 CVM 的盈亏线;多卡节点下单前一定先除以卡数,官方价目表里「多卡更贵」是常态而不是例外。

声明:本文价格与规则数据采集于 2026 年 10 月,取自腾讯云国际版官方文档(TI-ONE,产品 1141:产品概述、计费总览、产品定价、购买模式、欠费说明、开发机介绍、创建实例、空闲回收策略、任务式建模概览、创建任务、分布式训练指南、在线服务介绍/部署/调用、资源组管理、GPU 虚拟化、模型广场、内置训练镜像列表、自定义 LLM 部署教程、子账号与权限配置等页面)。所有单价均为美元(USD),仅供参考——实际价格随地域、活动与汇率变动,请以官网实时价格与您的实际账单为准。文中「月」一律按 730 小时折算,凡由小时价推算出的月价、每核/每卡折算价、盈亏平衡点,均为本文推算值而非官方报价,已在对应位置标注。

一、先划边界:TI-ONE、自建 GPU CVM、TKE GPU 节点池、直接调 API

这四个东西经常被混着比价,但它们的差别不在「有没有 GPU」,而在谁替你管调度、你为闲置付不付钱、以及你能不能拿到 0.1 卡的粒度。

维度TI-ONE自建 GPU CVMTKE + GPU 节点池直接调用大模型 API
形态托管平台(开发机 / 任务 / 在线服务)裸机器,自己装 CUDA、驱动、框架容器编排,自己写 YAML 与调度策略按 token 付费的黑盒
算力归属平台代购或自购 CVM 加节点你独占整台机器你独占节点,容器共享不涉及
闲置成本按量按秒计费,停即停;可配空闲回收开机即计费节点开机即计费无
GPU 粒度支持 0.1 卡(国际站仅 T4)整卡整卡或 MIG(视机型)不适用
分布式训练DDP/MPI/Horovod/PS-Worker/Ray,自动注入环境变量,多机自动开 RDMA全靠自己搭自己配 MPI Operator 等不适用
数据接入COS / CFS / CFS Turbo / EMR(HDFS) 直接挂载自己挂自己挂 PVC不适用
最适合模型微调、批量推理、需要弹性伸缩的在线服务长期 7×24 满载、需要 root 与内核参数已有 K8s 体系、要多租户隔离只做应用集成、不碰模型权重

一句话:自建 CVM 是「租机柜」,TI-ONE 是「租训练流水线 + 租推理网关」。TI-ONE 帮你省掉的是调度器、镜像、环境变量注入、推理网关、弹性伸缩、监控日志这一整套工程,代价是你放弃了对底层机器的登录权(这一点在第 8 节会成为硬约束)。如果你已经在用 GPU CVM 跑训练,机型与选型对比见 腾讯云国际版 GPU 云服务器 AI 训练与渲染选型,通用机型见 腾讯云国际版 CVM 实例选型指南;如果已经在 K8s 上,GPU 节点池的调度方式见 腾讯云国际版 TKE GPU 节点池调度实战。

二、地域只有一个:新加坡(以及文档里三个「假地域」)

这是国际站 TI-ONE 最容易被忽略的硬事实。资源组管理文档写得很直白:「Supported regions of TIONE: Singapore.」 也就是说你只能在新加坡地域创建资源组、添加 CVM 节点、跑训练和推理。

但官方文档里有三处互相矛盾的残留,踩过的都知道有多浪费时间:

  1. 在线服务调用的 curl 示例域名是 https://ms-9j-1005.gw.ap-guangzhou.ti.tencentcs.com/...——ap-guangzhou 是广州,国际站没有;
  2. 自定义 LLM 部署教程里的示例是 https://ms-gp6rjk2jj-.gw.ap-shanghai.ti.tencentcs.com/...——ap-shanghai 是上海,国际站也没有;
  3. 而国际站控制台实际给的地址形如 ...gw.<你的地域>.ti.tencentcs.com。

结论很简单:调用的 host 一律从控制台「服务调用」页面复制,不要从文档示例里抄。文档示例是从中文站翻译过来的,域名没洗干净。

另外还有一个正在路上的变更:一部分老服务的域名还是 apigw.tencentcs.com(形如 service-94**g0-130662.gz.apigw.tencentcs.com:80/tione/v1/models/m:predict),官方已经在公告里说明该 API 网关产品即将停止服务**,届时这种调用方式不可用,建议尽快换新地址或新建服务做迁移。如果你是 2024—2025 年建的老服务,这一条要单独排查。

三、两种买法:平台代购 vs 自购 CVM 加节点

TI-ONE 的计费把「机器钱」和「软件钱」拆开了,这个拆分是所有价差分析的起点。

机器来源计费主体计费模式你付什么可选规格
从 TI-ONE 平台购买资源使用时长仅按量(后付费)软件 + 机器,打包价19 种节点规格(CPU 9 种 + GPU 10 种)
从 CVM 选择(资源组)CVM 使用时长包年包月 / 按量只付软件费,算力钱已在 CVM 账单里官方软件费价目表只列了 2 种

三条必须记住的规则:

  1. 平台代购是「按秒计费、按小时出账」。官方原文:计费单位 USD/second,费用在购买时冻结、按小时扣,可随时买、随时释放。所以理论上跑 3 分钟的任务只花 3 分钟的钱——但注意在线服务启动时会冻结 2 小时的费用(见第五节),余额不够会启动失败。
  2. 自购 CVM 路线下,TI-ONE 只收软件费。官方明确:「TI-ONE only charges for the software, the computing power will be used on the machines you have already purchased.」机器是你自己的 CVM,续费、退订、开票、降配都在 CVM 那边走。
  3. 部分 CVM 机型支持「关机不收费」。CVM 关机后,对应的 TI-ONE 软件费停止计费,节点状态切成 Exception;重新开机后几分钟自动回到 Running 并开始计费。官方也提醒:CVM 可能因为资源不足而开机失败——这一点在包年包月机器上不痛,在按量机器上会让你「以为省了钱,其实机器起不来了」。

四、19 种节点规格的真实单价(附每核、每卡折算)

这是本文最核心的一张表。官方只给了「型号 / 规格 / 单价 / 支持模块」,但做预算真正需要的是每核单价和每卡单价——因为官方价目表在这两个维度上并不单调。

4.1 CPU 节点:9 种

型号规格单价 USD/h每核折算(本文推算)730h 折算月价(推算)
TI.S.LARGE.POST4C8G0.2020.0505147.46
TI.S.2XLARGE16.POST8C16G0.4040.0505294.92
TI.S.2XLARGE32.POST8C32G0.5180.0648378.14
TI.S.4XLARGE32.POST16C32G0.8050.0503587.65
TI.S.4XLARGE64.POST16C64G1.2190.0762889.87
TI.S.6XLARGE48.POST24C48G1.1450.0477835.85
TI.S.6XLARGE96.POST24C96G1.7280.07201,261.44
TI.S.8XLARGE64.POST32C64G2.0740.06481,514.02
TI.S.8XLARGE128.POST32C128G2.4360.07611,778.28

从这张表能读出两个不那么直觉的结论:

  • 每核最便宜的不是最小规格,而是 24C48G(0.0477 USD/核/h);最贵的是 16C64G 和 32C128G(0.0762 / 0.0761)。同样跑纯 CPU 的数据预处理,选 24C48G 比选 16C64G 便宜 37%。
  • 内存扩容的单价极其不一致。把 8C16G 升到 8C32G,多 16 GB 要多付 0.114 USD/h,折 0.007125 USD/GB/h;16C32G 升到 16C64G,多 32 GB 要多付 0.414 USD/h,折 0.012938 USD/GB/h;32C64G 升到 32C128G,多 64 GB 只多付 0.362 USD/h,折 0.005656 USD/GB/h。最高与最低差 2.29 倍。结论:不要按「核数 × 线性」或「内存 × 线性」做预算,一定要按整机型号比价。

4.2 GPU 节点:10 种

型号规格GPU单价 USD/h每卡折算(推算)730h 月价(推算)
TI.GN7.2XLARGE32.POST8C32G1×T41.091.09795.70
TI.GN7.8XLARGE128.POST32C64G1×T42.28482.28481,667.90
TI.GN7.10XLARGE160.POST90C226G2×T43.32521.66262,427.40
TI.GN7.20XLARGE320.POST180C452G4×T46.66061.665154,862.24
TI.GN10.2XLARGE40.POST8C40G1×V1004.7644.7643,477.72
TI.GN10.5XLARGE80.POST18C80G2×V1006.00783.00394,385.69
TI.GN10.10XLARGE160.POST32C160G4×V10018.2914.5727513,352.43
TI.GN10.20XLARGE320.POST72C320G8×V10035.0584.3822525,592.34

这张表里藏着一个反直觉的「坑」和一个真正的「漏」:

坑:T4 多卡节点单卡更贵。 单卡 8C32G 是 1.09 USD/h;2 卡 90C226G 折算 1.6626 USD/卡;4 卡 180C452G 折算 1.66515 USD/卡。也就是说用 4 台单卡机(4 × 1.09 = 4.36 USD/h)跑 4 张 T4,比买 1 台 4 卡节点(6.6606 USD/h)便宜 34.5%。原因不是折扣,是那台 4 卡节点塞了 180 核 —— 你被迫为用不上的 CPU 付钱。如果任务用不到几十个核,多卡 T4 节点没有任何经济性。

漏:V100 的 2 卡节点是全表最便宜的 V100 算力。 折算 3.0039 USD/卡/h,比单卡节点便宜 36.9%,比 4 卡节点便宜 34.3%,比 8 卡节点便宜 31.5%。反过来看更刺激:用 4 台 2 卡机(4 × 6.0078 = 24.0312 USD/h)凑出 8 张 V100,比直接买 1 台 8 卡机(35.058 USD/h)便宜 31.4%。而 4 卡节点(折算 4.57275 USD/卡)恰恰是全表最贵的 V100 形态——比 2 卡节点贵 52.2%。价目表在 4 卡这一档出现了明显的非单调跳变,下单前务必自己除一遍。

注意:如果模型必须走 RDMA 多机加速,官方要求「资源组里至少 2 个支持 RDMA 的高性能 GPU 节点」,并且任务配置 ≥2 节点、每节点 8 张全空闲卡时平台才会默认挂 RDMA 资源。也就是说「4 台 2 卡机省 31%」这条路走的是普通以太网 DDP,带宽换成本,二者不能既要又要。

五、自购 CVM 的盈亏线:697.23 USD/月

自购 CVM 路线只收软件费,官方给了两张表、四条报价:

软件费型号对应 CVM规格单价730h 折算(推算)
TI.SOFTWAREFEE.GN7.2XLARGE32.PREGN7.2XLARGE328C32G / 1×T498.47 USD/月—
TI.SOFTWAREFEE.PNV5b.8XLARGE96.PREPNV5b.8XLARGE9632C96G / 1×PNV5b278.88 USD/月—
TI.SOFTWAREFEE.GN7.2XLARGE32.POSTGN7.2XLARGE328C32G / 1×T40.2 USD/h146.00
TI.SOFTWAREFEE.PNV5b.64XLARGE768.POSTPNV5b.64XLARGE768256C768G / 8×PNV5b4.34 USD/h3,168.20

两个盈亏平衡点(本文推算,按 730h/月):

  • GN7(1×T4):包月 98.47 ÷ 按量 0.2 = 492.35 小时/月,约 20.5 天。也就是说这台开发机/推理节点每月开机超过 492 小时,包月才划算;低于这个数就走按量软件费。
  • PNV5b(8 卡):包月 278.88 ÷ 按量 4.34 = 64.3 小时/月,约 2.7 天。这个差距极端到反常——8 卡 PNV5b 的按量软件费折算月成本 3,168.20 USD,是包月价的 11.4 倍。如果你要自购 8 卡 PNV5b 上 TI-ONE,几乎不存在选按量的理由。

再往上算一层,和「平台代购」对比:

  • 平台代购 1×T4 的 8C32G 是 1.09 USD/h,730h 折算 795.70 USD/月(含机器);
  • 自购 CVM 路线月成本 = CVM 月价 + 98.47;
  • 两者相等时,CVM 月价必须低于 697.23 USD。低于这条线,自购便宜;高于这条线,平台代购便宜,而且你还不占用资金、不用管续费。

这个数字是整个决策的核心。注意它只对 T4 成立——因为官方软件费价目表只覆盖 2 种规格(GN7.2XLARGE32 与 PNV5b.8XLARGE96)。剩下 17 种节点规格你只能走平台代购。如果你手上的 CVM 是别的机型想接进来,先确认它在不在这个两张表里,否则不是「贵一点」,而是「根本没有这个买法」。

六、GPU 虚拟化:只有 T4,且必须在建组时就对

0.1 卡粒度是 TI-ONE 相对自建 CVM 最实在的优势之一——尤其做小模型推理、Embedding 服务、或者给算法同学开共享开发机时。但国际站的边界很窄:

  • 支持的 GPU 型号:T4(官方原文就是一行「T4...」,并注明其他型号会陆续上线国际站)。 V100 / A100 / PNV5b 目前没有这个能力。
  • 使用前提:先建资源组、把 CVM 以节点形式加进去,然后在创建开发机、任务式建模任务、在线服务时,如果所选资源组里含有支持虚拟化的 GPU 型号,资源配比处可以选择 0.1~1 张卡之间的任意值。
  • 最隐蔽的一条:如果建资源组时加进来的节点是「当时还不支持虚拟化」的 GPU 型号,那么即使平台后来支持了该型号,这个资源组里的这台机器依然用不了虚拟化;而且你不能直接把节点移到别的资源组,只能「从原资源组移除 → 重新加到新建的资源组」。
  • 在线服务侧也有同样的粒度能力,官方描述是「支持为服务分配最小 0.1 张 GPU 卡」。

所以如果你打算用虚拟化,顺序必须是:先确认型号支持 → 再建资源组 → 再加节点。反过来操作,唯一解法是拆了重建,而这会触发第 8 节的第一条陷阱(重装系统、清数据)。

七、实战:从开发机到在线服务的完整链路

平台的功能边界可以用一条链路概括:权限 → 存储 → 开发机 → 训练任务 → 在线服务 → 调用。每一段都有官方约定好的路径和参数,照着写,比踩一遍坑快得多。

7.1 权限:先授权服务角色,再分子账号

  • 用根账号首次登录 TI-ONE 控制台,系统会提示创建服务角色并授权,点「去授权 → 同意授权」完成。原因很实际:TI-ONE 在训练/推理过程中要调 COS、CFS、TCR、CLS、VPC、CVM、EMR、TCOP 等一堆产品的 API,不授权就是「创建任务时莫名失败」。
  • 子账号走 CAM。三个预置策略够用:
  • QcloudTIONEFullAccessContainMultiservice:TI-ONE 全读写 + 关联产品权限,给平台管理员;
  • QcloudTIONEResouceGroupFullAccessContainMultiservice:TI-ONE 只读 + 平台管理模块读写(含下单),给资源管理员;
  • QcloudTIONEReadOnlyAccessContainMultiservice:全只读,给只看不管的人。
  • 更细的(比如「能建训练任务但不能建推理服务」)必须写自定义策略。

7.2 存储:COS / CFS / CFS Turbo / EMR(HDFS)

创建任务时,存储路径支持三类:COS(选桶和路径)、CFS 或 CFS Turbo(选文件系统 + 源目录)、EMR(HDFS)(选集群 + 源目录)。每一行都可以单独指定「容器内挂载路径」,在代码里就按这个路径读。

EMR(HDFS) 有个 Kerberos 细节:平台默认用 hadoop 身份挂载;换身份要把 username.txt 和 emr.keytab 按 <emr_id>/ 目录结构打进代码包,平台支持同时认证多个 EMR(目录名形如 emr-1rnhggsh)。

7.3 开发机:三种接法 + 空闲回收

开发机的形态是「Notebook 模块升级版」(2025 年 2 月 25 日 Notebook 正式升级为 Dev Machine),支持 Jupyter Notebook、VS Code 两种内置 WebIDE,也支持 SSH 远程连接,还能关联 Git 仓库做协作与版本控制。生命周期脚本可以在创建/启动实例时跑预置 shell,用于装依赖——这比每次进 Notebook 手敲 pip install 靠谱得多。

空闲回收策略务必配,这是最容易白烧钱的地方。规则是:管理员按地域配「回收策略」+「排除策略」,回收条件可以选 CPU 使用率、内存使用率、显存使用率,逻辑关系可选 any(任一满足即停)或 all(全部满足才停)。官方给的示例是:

CPU ≤ 10% 或 内存 ≤ 10% 或 显存 ≤ 10%,且持续超过 1 小时 → 实例自动停止、释放算力。

触发后实例状态变 Stopped,鼠标悬停会提示「Idle instance has triggered automatic stop and has stopped automatically」。排除策略按实例名过滤,被排除的实例即使满足条件也不会被强停。

算一笔账:一台 8×V100 的开发机(35.058 USD/h)如果周五下班忘了关,周一上班才发现,62 小时 = 2,173.6 USD。这就是一条回收策略的价值。

7.4 训练任务:/opt/ml 目录约定 + 环境变量注入

任务式建模是向导式提交,几个关键约定必须记:

约定值
默认工作目录/opt/ml/code
超参文件/opt/ml/input/config/hyperparameters.json
定期上传的输出/opt/ml/output
模型产物(一键发布到模型仓库用这个路径)/opt/ml/model
数据挂载每行存储配置可自定义容器内挂载路径

平台会自动注入分布式训练的环境变量,你不用自己算 IP:

  • DDP:NODE_LIST / INDEX / MASTER_ADDR / MASTER_PORT / WORLD_SIZE / RANK / GPU_NUM / GPU_NUM_PER_NODE,RANK=0 是 Master(负责存模型)。启动命令官方给的就是标准写法:

python -m torch.distributed.launch \
  --nproc_per_node $GPU_NUM_PER_NODE \
  --nnodes $WORLD_SIZE \
  --node_rank $RANK \
  --master_addr $MASTER_ADDR \
  --master_port $MASTER_PORT
  • MPI / Horovod:注入 OMPI_MCA_orte_default_hostfile(/etc/mpi/hostfile)、GPU_NUM、GPU_NUM_PER_NODE、NODE_IP_SLOT_LIST;Horovod 的启动命令只在 Launcher 实例上执行,Worker 被设成 sleep infinity 等着。
  • PS-Worker:注入 TF_CONFIG,里面是 ps/worker 的完整地址表。
  • Ray:注入 HEAD_ADDR、HEAD_PORT(默认 6379)、RANK;最多可配 5 组 Worker。

Ray 有两个专属坑:① 小数核会被向下取整——Ray 按整数资源调度,配 0.7 核会被取整成 0,任务直接跑不起来;② TI-ONE 的 GPU 分片调度遇上 Ray 会被当成整卡——0.2 张 GPU 在 Ray 的 Worker 里要按 nums_gpu=1 来申请。另外 Ray 当前看不到 TensorBoard。

内置镜像的框架能力也不一样,选之前对一眼(节选):

镜像支持的训练模式备注
tilearn-llm0.9-torch2.3-py3.10-cuda12.4-gpu仅 DDPtorch 2.3 / transformers 4.39.3 / deepspeed 0.13.4 / angel-vllm 0.4.2;支持 PNV6、H100、H800、PNV5b、L40、A100、A800、A10、V100、T4
torch1.9-py3.8-cuda11.1-gpuDDP / MPI / Horovod老框架、多模式,跑传统 CV 任务顺手
tf1.15-py3.7-cuda10.0-gpuPS-Worker / MPI / HorovodTF 1.x
py3.10-cpu—Miniforge3 + jupyterlab 4.3,只给开发机

也就是说:想用最新的 tilearn-llm 加速,就只能 DDP;要 MPI/Horovod 得退到 torch1.9 镜像。这一点在「必须多机多卡 + 必须新框架」的场景里是硬冲突。

任务侧还有两个成本相关的开关:Auto Restart(最多 10 次,超出直接标异常,且只支持包年包月 + MPI/DDP/Horovod),以及CLS 日志投递(默认关,控制台只留 15 天日志;要长期留存必须开投递到 CLS,CLS 单独计费——计费口径见 腾讯云国际版 CLS 日志服务实战)。

7.5 在线服务:端口 8501、模型挂到 /data/model

在线服务的部署模式分「标准部署」(单副本 1 节点)和「多机分布式部署」(单副本多节点协同);创建后不能改部署方式,也不能在更新服务/加新版本时改,选错只能重建。

机器来源两种:选资源组(算力钱已在 CVM 里付过,起服务不再扣算力费)或从 TI-ONE 购买(启动时冻结 2 小时算力费,之后按实例数逐小时扣)。

模型来源三种:CFS 路径、COS 路径、镜像内置。这里有三条必须背下来的约束:

  1. 推理服务的端口限制为 8501,只接受 HTTP 的 POST 请求。
  2. 平台会把 CFS/COS 源路径下的模型文件(含子目录)放到服务实例的 /data/model 目录,所以代码和数据不能放 /data/model,否则会被平台覆盖。
  3. 官方给的 LLM 部署范例是 vllm/vllm-openai:latest,而 vLLM 原生的 Entrypoint 监听的是 8000、模型从 /root/.cache/huggingface 读。落地方法不用重做镜像,只要把启动命令改成:

python3 -m vllm.entrypoints.openai.api_server \
  --model /data/model \
  --served-model-name Qwen2-7B-Instruct \
  --max-model-len=2048

--max-model-len=2048 不是可选项:Qwen2-7B-Instruct 原生支持 128K,不限制的话 vLLM 初始化 KV Cache 会直接把显存吃穿。

官方文档在这里自相矛盾:正文写「Reasoning online service port is limited to 8501」,但同一篇教程的配置步骤又写「Advanced setting > Port:改成 8000」。实测以页面上的 Port 字段为准——它允许你显式指定端口,把 vLLM 的 8000 填进去是可行的;但如果你不走这个字段,默认只放通 8501。安全做法:启动命令里显式加 --port,并在「高级设置 > 端口」填同一个值。

显存配置的官方建议(按参数量选卡):

模型参数量建议 GPU
6~8BPNV5b × 1 / A10 × 1 / A100 × 1
12~14BPNV5b × 1 / A10 × 2 / A100 × 1
65~72BPNV5b × 8 / A100 × 8

7.6 调用:公网网关 or 私网 Private Link

部署完成后平台会自动注册 API 网关,生成公网地址,在「服务调用」页拿 SERVER_URL。开鉴权的话要带 Authorization(用 ApiAppKey / ApiAppSecret 算签名):


curl -H "content-type: application/json" \
  ${SERVER_URL}/v1/completions \
  -d '{"model":"Qwen2-7B-Instruct","prompt":"hello","max_tokens":50,"temperature":0}'

加 "stream": true 就是 SSE 流式返回。对延迟和稳定性要求高的走私网高速调用:在「服务调用 → 高速服务调用」里绑定 VPC 和子网,平台通过 Private Link 在你的 VPC 里建终端节点——终端节点单独计费,且一旦启用对该地域所有服务生效。

八、七个部署陷阱

① 加节点会重装系统,原数据全清。 把 CVM 交给 TI-ONE 管理时,平台会重装系统盘,CVM 上以及挂载的数据盘上的原有数据全部清空;之后你不再有登录权限,TAT 也用不了。官方原话是「如果你登录并操作实例,须承担 TI-ONE 服务异常或终止等全部后果」。动手前必须备份,没有例外。

② 盘必须 ≥100 GB,否则节点根本加不进去。 没有数据盘时系统盘要 ≥100 GB;有数据盘时数据盘要 ≥100 GB。达不到的直接后果是拉不到 TI-ACC 和 LLM 镜像,机器选不进部署。官方建议:先挂数据盘,再加节点。

③ 安全组规则预留数量,官方自己写了两个数。 正文说「一个安全组默认最多 100 条规则,请为 TI-ONE 预留 2 条」;附录的风险提示却写「最多 100 条入站 + 100 条出站,需为 TI-ONE 预留 5 条入站和出站规则」。按大的那个(5 条)准备。 同时 TI-ONE 会放通 9.0.0.0/8 和 100.127.0.0/16,节点在用时不能删这两条规则,否则机器会工作异常。

④ 模型包大小有三个口径:45 GB / 50 GB / 110 GB。 同一篇部署文档里:按量模式本地盘约 45 GB;包年包月(资源组)单节点磁盘约 50 GB(「存储挂载」段);而「模型热更新」段又说资源组单节点盘约 110 GB。按最小的 45 GB 规划,超了就上 CFS。 另外两个细节:服务停止或更新时,平台默认会清理 CFS 源路径下的文件,该路径不要放别的东西;模型热更新目前只支持 tfserving 推理镜像,且必须配清理策略或外挂 CFS,否则会把盘写满。

⑤ 服务的 QPS 上限是 500,且按「每副本 × 副本数」再封顶。 限流值配的是单副本值,扩容时整体限流 = 设定值 × 副本数;但单个服务组最高 500 QPS,超过就按 500 截断。也就是说「5 副本 × 200 = 1000」的规划是无效的,实际每副本只分到 100。要做高 QPS 只能多开服务组做分流。

⑥ 欠费只给 2 小时。 余额和冻结金额变负起算:2 小时内按量节点/训练推理资源可继续使用并继续计费;2 小时后自动回收、停止计费。包年包月的软件费则在到期前 7 天开始发到期提醒(邮件 + 短信给创建者、全局资源协作者、财务协作者),没开自动续费且到期未续的节点会被释放且无法找回。

⑦ 节点有 9 种状态,其中 3 种会让你以为「挂了」。 Deploying(初始化中)、Failed to deploy(部署失败)、Running(可用)、Releasing / Released(释放中/已释放)、Exception(异常,含关机不收费)、Unused(不再使用)、Mounting(挂载数据盘中,1~2 分钟)、Fixing(自动修复中)。看到 Exception 先别慌,很可能只是 CVM 关机触发了「关机不收费」;Mounting 期间节点上跑的任务和服务会被终止。另外:资源组只有在没有节点处于 Running / Deploying / Exception / Releasing / Fixing / Mounting 状态时才能删除。

九、成本模型:三个必须记住的数字

把前面的推导收敛成三条可直接用于决策的结论:

  1. 697.23 USD/月 —— 1×T4(8C32G)自购 CVM 与平台代购的盈亏分界线。你的 CVM 月成本低于它,自购划算;高于它,平台代购划算(且不占资金)。推导:平台代购 1.09 × 730 = 795.70,减去软件费 98.47。
  2. 492 小时/月 —— GN7 软件费「包月 vs 按量」的分界线(98.47 ÷ 0.2)。低于 492 小时走按量。而 8 卡 PNV5b 的分界线只有 64.3 小时(278.88 ÷ 4.34),几乎必然选包月。
  3. 4 台 2 卡 V100 ≈ 别买 8 卡机 —— 4 × 6.0078 = 24.0312 USD/h 凑 8 张 V100,比 8 卡节点 35.058 USD/h 便宜 31.4%;代价是没有 RDMA,只能走普通以太网 DDP。反过来,多卡 T4 节点(180C452G 那台)比 4 台单卡机贵 52.8%,除非你真的需要 180 个核。

再补两个「按秒计费」的真实感数字:1.09 USD/h 折 0.000303 USD/秒;8 卡 V100 跑满一个月(730h)是 25,592.34 USD。所以「随手开一台 8 卡机调两天」和「随手开一台 8 卡机调两周」,中间差的是一台车的钱。

总结

TI-ONE 的定价模型拆开看只有两句话:平台代购 = 软件 + 机器打包,按秒计费;自购 CVM = 只付软件费,机器钱走 CVM 账单。 所有复杂度都在边界上——地域只有新加坡、软件费只覆盖 2 种规格、虚拟化只有 T4 且不能事后补、加节点必重装系统、盘必须 ≥100 GB、端口 8501 与 8000 文档打架、模型包 45/50/110 GB 三个口径、QPS 500 封顶、欠费 2 小时回收。

记住三个数字就够了:697.23(自购 CVM 的月成本分界线)、492(GN7 软件费包月的小时分界线)、31.4%(4 台 2 卡 V100 比 1 台 8 卡机省下的比例)。选型时先把这三个数字算一遍,比读十篇产品介绍有用。

延伸阅读:

🚀 需要腾讯云国际版 TI-ONE 的选型建议与专属折扣? 无论是给一套 7B/14B/72B 的微调任务配「几卡、哪种节点、包月还是按量」、把现有 GPU CVM 接进资源组还是干脆走平台代购、在线服务该开几个副本才能顶住 QPS 500 的天花板,还是核算「开发机 + 训练 + 推理」三段加起来的月度预算——我们都能按你的模型规模、数据量、并发画像与合规要求,给出规格组合、成本模型与迁移步骤。新加坡地域的开通、CVM 机型匹配、软件费口径确认,也可以一起处理。

本文由 4.chengzicloud.cloud 提供,点击访问首页了解更多。

常见问题(FAQ)

1:国际站 TI-ONE 支持哪些地域?

官方文档写的是「Supported regions of TIONE: Singapore」,即仅新加坡。文档示例里出现的 ap-guangzhou、ap-shanghai 域名是中文站翻译残留,不要照抄,从控制台复制实际地址。

2:有没有免费额度或试用?

本次查阅的官方文档中没有提到 TI-ONE 的免费额度。按量计费的最小开销就是「开了就按秒算」,所以试用的正确姿势是:用最小规格 + 配好空闲回收 + 用完立刻释放。

3:我有自己的 GPU CVM,能不能直接接进 TI-ONE?

能,但要满足:CVM 与存储网络互通、VPC CIDR 不冲突、盘 ≥100 GB、安全组预留 5 条规则、且该机型在软件费价目表里。目前价目表只有 GN7.2XLARGE32(1×T4)和 PNV5b.8XLARGE96(1×PNV5b)两种包月、以及对应的两种按量,其他机型没有软件费报价,接不进来。接进来之后平台会重装系统、清空数据、收回登录权。

4:0.1 卡虚拟化支持 V100 / A100 吗?

国际站目前只支持 T4。而且资源组必须在创建时就包含支持虚拟化的型号,事后平台补支持了也没用,只能把节点移出、重建资源组再加回去。

5:在线服务的端口到底是 8501 还是 8000?

文档自相矛盾:一处写「限制为 8501」,另一处配置步骤写「改成 8000」。稳妥做法:启动命令显式带 --port,并在「高级设置 > 端口」填同一个值;只接受 HTTP POST。

6:训练完的模型去哪了?

写到 /opt/ml/model,任务结束后平台会上传到指定的 COS 输出路径,也支持一键发到模型仓库;写到 /opt/ml/output 的会被定期上传。如果训练存储本身就是 CFS,也可以不配输出路径,直接写进挂载的 CFS 目录。推理时平台再把模型文件放进 /data/model。

7:多机训练一定要开 RDMA 吗?

不用,但满足条件时平台会默认开:资源组里有 ≥2 个支持 RDMA 的高性能 GPU 节点,任务 ≥2 节点且每节点 8 张全空闲卡。生效的日志特征是 NCCL INFO ... via NET/IBext/0/GDRDMA。自定义镜像要自己装用户态 RDMA 驱动,平台内置的 llm 镜像已支持常见 HCC 机型。

8:日志能留多久?

控制台默认只保留最近 15 天,且是免费的;要长期留存必须开 CLS 日志投递,CLS 另计费。

9:服务部署失败会一直重试吗?

创建新服务时可以选「有限重试」或「无限重试」;但更新服务、重启已停止的服务时系统固定用无限重试。所以一个配错的镜像会一直重试下去,记得及时停。

10:如果我只是想跑个 Qwen 推理,TI-ONE 和直接买 GPU CVM 哪个便宜?

看开机时长。7B 模型单卡 T4 就够(官方建议 6~8B 用 1×PNV5b/A10/A100),平台代购 1.09 USD/h;自购 T4 CVM + 98.47 USD/月软件费,只有当 CVM 月价 < 697.23 且长期在线时才赢。短期或间断性负载,平台代购按秒计费 + 空闲回收几乎没有对手。