在阿里云上租用服务器运行深度学习任务是一个非常常见且高效的选择。以下是详细的步骤和建议,帮助你快速上手:
一、选择合适的云服务器类型
深度学习对计算资源要求较高,推荐使用 GPU 云服务器。
1. 推荐实例类型
- GPU 实例(如 ecs.gn 系列)
ecs.gn6i-c8g1.2xlarge:NVIDIA T4 GPU,适合中等规模训练ecs.gn7i-c32g1.8xlarge:NVIDIA A10 GPU,性能更强ecs.gn7e-c16g1.8xlarge:NVIDIA A100,适合大规模模型训练(如大语言模型)
- CPU 实例:仅适用于轻量级推理或小模型训练(不推荐用于训练)
✅ 建议:初学者可从 T4 或 A10 开始;大模型训练选 A100/V100。
二、创建 GPU 实例的步骤(控制台操作)
-
登录 阿里云控制台
-
进入 ECS(弹性计算) > 实例创建
-
配置选项:
- 地域:选择离你近的(如华北3-张家口、华东1-杭州)
- 实例类型:搜索
gn开头的 GPU 实例 - 镜像:
- 推荐使用 公共镜像:Ubuntu 20.04/22.04 或 CentOS 7
- 或使用 AI 镜像市场 中预装了 CUDA、PyTorch/TensorFlow 的镜像(搜索“深度学习”)
- 存储:系统盘 ≥ 100GB,数据盘按需挂载(建议 SSD)
- 网络:公网 IP 可选(用于 SSH 或远程访问),带宽建议 1-5Mbps
- 安全组:开放 SSH(22端口)、Jupyter(8888)、TensorBoard(6006)等
-
设置登录方式:密钥对(推荐)或密码
-
购买并启动实例
三、连接服务器并配置环境
1. 使用 SSH 连接
ssh -i your-key.pem root@<公网IP>
2. 安装驱动与框架(若未使用预装镜像)
# 更新系统
sudo apt update && sudo apt upgrade -y
# 安装 NVIDIA 驱动(通常阿里云已自动安装,检查:nvidia-smi)
nvidia-smi # 应显示 GPU 信息
# 安装 CUDA(可选,部分镜像已包含)
# 推荐通过 NVIDIA 官方或阿里云 AI 镜像获取
# 安装 Anaconda
wget https://repo.anaconda.com/archive/Anaconda3-2023.09-Linux-x86_64.sh
bash Anaconda3-*.sh
# 创建虚拟环境
conda create -n dl python=3.9
conda activate dl
# 安装 PyTorch(CUDA 版本匹配)
conda install pytorch torchvision torchaudio pytorch-cuda=11.8 -c pytorch -c nvidia
# 或安装 TensorFlow
pip install tensorflow[and-cuda]
四、上传代码与数据
- 使用
scp或rsync传输文件:scp -i key.pem -r ./your_project/ root@<IP>:/root/ - 或挂载 阿里云 NAS 文件存储(适合多机共享数据)
五、运行深度学习任务
方法1:本地 SSH 执行
python train.py
方法2:使用 Jupyter Notebook
pip install jupyter
jupyter notebook --ip=0.0.0.0 --port=8888 --no-browser --allow-root
然后在浏览器访问:http://<公网IP>:8888
⚠️ 注意安全组需放行 8888 端口,并设置 token 或密码。
方法3:后台运行(防止断开)
nohup python train.py > log.txt 2>&1 &
六、成本优化建议
| 技巧 | 说明 |
|---|---|
| 按量付费 | 适合短期实验,按秒计费 |
| 包年包月 | 长期使用更便宜 |
| 竞价实例(抢占式实例) | 价格低至1/10,但可能被回收(适合容错训练) |
| 自动释放 | 设置自动释放时间避免忘关 |
七、进阶功能(可选)
- 容器化部署:使用 Docker + NVIDIA Container Toolkit
- 分布式训练:多卡(NCCL)或多机训练
- 模型部署:使用阿里云 PAI-EAS 将模型部署为在线服务
- NAS/OSS 存储:将数据集存于对象存储,节省本地磁盘
八、参考资源
- 阿里云官方文档:ECS GPU 实例
- AI 镜像市场:搜索 “深度学习” 获取预装环境
- 阿里云 PAI(平台智能):提供更高级的 AI 训练平台(如 DSW)
总结
✅ 推荐流程:
- 选 GPU 实例(如 gn6i/gn7e)
- 使用预装 AI 镜像或手动配置环境
- SSH 登录 + 上传代码
- 启动训练(Jupyter 或命令行)
- 训练完及时释放实例以节省费用
如果你告诉我你的具体需求(如模型大小、预算、是否需要多卡),我可以帮你推荐更合适的实例配置。
云服务器