上周帮朋友调试一个图像分类项目，他本地笔记本跑 ResNet-50，一个 epoch 要 40 分钟，显存还老爆。我说：‘你试试云上 GPU 实例，1 小时搞定的事，何必熬通宵？’
不是所有深度学习都得买 3090
很多人一提深度学习，立马想到‘配卡、装驱动、调 CUDA 版本’，其实现在主流云平台（阿里云、腾讯云、华为云、AWS）都提供了开箱即用的深度学习镜像：PyTorch 2.x + CUDA 12.1 + cuDNN 都预装好了，连 conda 环境都分好 GPU/CPU 两套。点几下鼠标，1 分钟启动带 A10/A100 的实例，比重装系统还快。
怎么选才不踩坑？
别一上来就冲 A100。小模型（比如 YOLOv5s、BERT-base 微调）用 1 张 T4 或 A10 就够——按小时计费，A10 实例大概 2.5 元/小时，训完关机，账单不会偷偷涨。实测跑一个文本情感分析任务（10 万条数据），用 A10 训 30 个 epoch，总耗时 22 分钟，花了不到 1 块钱。
如果要训 ViT-L 或 LLaMA-2-7B 这类大模型，建议选支持 NVLink 的多卡实例（如 A100×4），但注意：必须用 torch.distributed 写 DDP，不能只靠 DataParallel。下面是个最小可运行的多卡启动脚本：
python -m torch.distributed.launch \
--nproc_per_node=4 \
--master_port=29500 \
train.py --batch-size 64数据和模型别来回拷
本地上传 20GB 数据集到云盘再挂载？太慢。直接用云对象存储（如 OSS、COS）+ PyTorch 的 torchdata 流式加载更稳：
例如读取 COS 上的 TFRecord：
from torchdata.datapipes.iter import FileLister, StreamReader
import boto3
# 直接从 COS 流式读，不落本地磁盘
dp = FileLister("s3://my-bucket/dataset/", masks="*.tfrec")
dp = StreamReader(dp).map(decode_tfrecord)模型权重也一样，训练完自动同步到 OSS，下次拉下来接着训，不怕断电丢进度。
省钱小技巧
• 晚上 10 点后跑训练？很多云厂商夜间资源折扣高达 30%～50%；
• 用 Spot 实例（抢占型）跑验证/超参搜索，价格能砍掉 60%，失败了重跑就行；
• 不要长期开着实例——写个简单脚本，训练结束自动关机或释放资源。
说白了，云计算不是替代本地开发，而是把‘烧时间、占显存、等结果’的环节搬上云。你继续在 MacBook 上写代码、调逻辑、看效果，让云服务器当你的‘编译农场’和‘训练流水线’——这才是真·人机分工。