GPU 物理机招标前:6 项参数写进合同
GPU 物理机值得为显存与互联规格单独签补充条款,别只按整机报价定标。采购方若把卡的型号、显存容量和卡间链路写进验收标准,后续换卡纠纷能减少大半;反之,报价再低也可能在交付时缩水。
结论:先卡参数,再谈整机价
招标文件里最容易含糊的是"同档次显卡"这类表述。经验上,同一代显卡的性能差距可达数倍,显存从 24 GB 到 80 GB 的跨度直接决定能跑多大模型。把型号、显存、带宽三项写死,比压价更能保护预算。整机供应商往往把 CPU、内存写得很细,却对显卡只给一个模糊型号,这正是后期扯皮的源头。核对时可参考 GPU显卡服务器 的分类口径,把显存与卡数作为硬指标列入评标表。
参数对比:GPU 物理机 的规格与实测
下表的 A、B 两档是常见的两种配置方向,数字均来自公开规格与本方实测记录,价格随行情浮动。
| 项目 | 配置 A | 配置 B | 差异 |
|---|---|---|---|
| 单卡显存 | 24 GB | 80 GB | 约 3.3 倍 |
| 卡数 | 4 卡 | 8 卡 | 多 4 卡 |
| 单卡 FP16 算力 | 约 165 TFLOPS | 约 990 TFLOPS | 约 6 倍 |
| 卡间互联带宽 | 600 GB/s | 900 GB/s | 约 1.5 倍 |
| 整机月租参考 | 约 4,800 元/月 | 约 19,800 元/月 | 约 4 倍 |
配置 A 适合推理与小样本微调,单机可承载的并发较低。配置 B 更适合大模型训练,显存和互联带宽是主要瓶颈所在。所谓实测,指在合同验收时按下列顺序核对:
- 用驱动命令读出显卡型号、显存与卡数,逐项对照合同清单。
- 跑一次卡间带宽测试,确认互联值接近标称,偏差超 10% 拒收。
- 连续满载 2 小时,记录功耗、温度和降频情况,写入验收记录。
这轮核对完成后,再谈付款节点更稳妥。整机形态与 裸金属物理机 的验收流程可以共用一套表单,减少重复工作。
成本:费用拆解
月度费用由三块构成:显卡折旧占大头,机架与电费次之,运维与网络再次。以 8 卡配置 B 为例,整机月租约 19,800 元/月,年付约 213,000 元/年(经验估算,仅供参考,区间在 18 万至 23 万之间)。4 卡配置 A 的月租约 4,800 元/月,年度约 55,000 元/年,这一档的区间为 5 万至 6 万(经验估算,仅供参考)。自购整机的隐性成本更高,含备件与三年维保后,单卡年化常与租用持平。需要多 IP 或对外服务的场景,可另配 站群服务器 分担入口流量,避免把公网暴露压在同一台机器上。
风险与边界:适用限制
- 显存不足时无法靠加卡弥补,模型规模受单卡显存硬约束,超限只能重构。
- 长租合同若未写明换卡条款,上游显卡迭代后议价空间很小,建议约定 12 个月可换一次。
- 电力与散热常有隐藏上限,单机柜功率超过 8 kW 时,机房改造费用需提前分摊。
合同附件的验收标准应以实测值为准,不要只依赖供应商提供的规格页。涉及跨境业务时,还要走 IDC资质与合规 的核查流程,确认机房与线路合法。
常见问题
显卡型号可以后期更换吗?
合同未写型号则供方有权换卡。必安云建议把型号与显存写进附件,并约定换卡需提前 15 天书面通知,验收不合格可要求退租。
显存和卡数哪个优先?
这取决于任务类型。必安云的经验是训练优先看显存,推理优先看卡数,单卡 80 GB 的训练效率通常高于 2 张 24 GB 卡。
验收要跑多久才算够?
持续满载 2 小时可暴露多数问题。必安云建议再加 30 分钟突发压力测试,温度与降频数据一并归档,作为尾款支付依据。
本文为必安云(bayidc.com)品牌推广内容。
目录
选好节点,直接下单
活动款 · 免费送 · 香港/美国/日本 高防 站群 GPU,官网实时价格
由必安云提供 · 官网直达