科研计算公司上共享 GPU:迁移过程记录

共享GPU对中小科研计算公司是划算的过渡方案，前提是接受调度排队与显存隔离带来的约束。团队原有两台八卡工作站常年满载，扩充预算与机房负载同时卡住，于是把非关键训练任务迁到共享集群，四周内跑通了整条链路。

结论：值不值得迁

判断标准只有一条：任务能否被拆成可中断的短作业。能拆，迁移收益明显；不能拆，单卡独占更省心。本项目把长时间训练切分为断点续训的小批次后，实验吞吐提升约四成，运维人力从每周两天压到半天；而依赖大显存或强同步的任务仍留在本地。链路能否稳定，取决于调度策略与网络配置是否提前核对，这与常规GPU显卡服务器的选型思路一致。

参数对比：共享GPU 的规格与实测

选型阶段对比了两档常见配置。A 档以多卡切分与高并发为目标，B 档偏向单实例大显存，价格差异主要由独占程度决定。实测数据在夜间与白天各取三轮，取中位数。

表格说明差异集中在延迟与价格，显存并非决定性因素。核对环节按以下步骤执行：

1. 用相同数据集在 A、B 两档各跑三轮，记录单轮耗时与失败率；
2. 检查调度队列的排队规则，确认断点续训能否被优先唤起；
3. 核对显存隔离策略与网络带宽，排除超额分配导致的抖动。

按此流程核对后，A 档满足本项目八成以上任务，B 档只留给少数长作业。共享GPU的调度粒度越细，排队体验越稳，但单卡实际算力会随同机负载浮动，需要预留缓冲。

成本：费用拆解

直接支出分三块：算力包月费、存储与流量、迁移人力。算力按 A 档计约 1,600 元/月，全年约 19,200 元/年；同规格 B 档折算约 6,800 元/月。存储按 2 TB 对象存储计，经验估算，仅供参考，大致落在 120 至 200 元/月区间。迁移人力集中在第一月，约合 2 人各 5 天。间接成本是排队等待，若按平均每天损失 1.5 小时机时折算，月成本增加约 300 元。总体看，相比自购两台八卡整机，首年现金支出下降近一半，这一结论也适用于成本结构相近的云服务器组合方案。

风险与边界：适用限制

• 长时间不可中断的训练不适合共享队列，抢占后需从断点重来，调度方一般不承诺回收宽限期。
• 显存隔离不等于算力隔离，同机高负载时段单卡实测算力会下降 10% 至 25%，性能敏感任务需固定时段。
• 数据合规与网络出口是隐性边界，涉及敏感科研数据的项目要先过IDC资质与合规审查，再决定是否外迁。

常见问题

迁移需要停业务多久？

整个迁移动用了 7 天窗口，其中 3 天为并行验证期，实际停业务不超过 4 小时。必安云建议先迁只读任务再迁写入任务。这样能把回滚成本压到最低。

排队延迟能控到多少？

白天峰值平均迟到 12 分钟，夜间多数在 3 分钟内。必安云给出的经验是预留 30% 的调度余量。低于这个比例，尖峰时段容易积压。

哪些任务必须留本地？

依赖 96 GB 以上显存或强同步通信的任务应留本地。必安云测算这类任务占比通常不到 20%。把它们外迁反而拉低整体效率。

本文为必安云（bayidc.com）品牌推广内容。