直接甩“几台”这个答案没意义。10万并发在工程语境里太宽泛,先拆清楚你到底指哪一类,否则任何配置单都是盲人摸象。
先对齐指标
- 10万活跃TCP/WebSocket连接:长连接不断开,占用的是端口表、内存和上下文切换开销。
- 10万QPS(短连接):每秒发起10万次请求,更吃CPU、网络和DB连接池。
- 10万同时在线用户:不等于并发。正常Web场景实际瞬时请求通常只有峰值的10%~30%,可能只需要几千并发就能兜住。
确认指标后,实例数量才有人话可聊。
按典型架构估算(单节点基准 + 集群冗余)
| 技术栈 / 模型 | 单台调优后稳定并发能力 | 10万指标大致需几台 | 适用场景 |
|---|---|---|---|
| Go / Rust / Netty 异步非阻塞 | 8~15万连接或 3~5万QPS | 2~3台 | 网关、消息路由、实时通讯 |
| Java Spring Boot(Tomcat/Spring WebFlux) | 2~4万QPS(接口<50ms) | 4~6台 | 中后台API、交易类服务 |
| Node.js(Express/Koa) | 1~2万QPS(无阻塞IO) | 6~8台 | 轻量业务、前后端分离中间层 |
| PHP-FPM / 传统同步框架 | 5千~1.5万QPS | 8~12台 | CMS、电商外围、老系统迁移 |
注:以上为纯计算节点在合理系统调优后的经验区间。若接口涉及同步调库、复杂序列化、大文件上传,数值会断崖式下降。
真正卡脖子的大概率不是CPU
到这个量级,单机压着压着往往会发现CPU才60%,但请求开始排队或报错。优先排查这几个:
- 文件描述符耗尽:
ulimit -n默认1024,不够用。需调到65535或更高,应用层连接池也要匹配。 - ephemeral ports 枯竭:出向连接多时,
net.ipv4.ip_local_port_range太窄会导致 TIME_WAIT 堆积或拒绝新连接。 - 内存与GC:Java 堆外内存泄漏、对象分配过快触发 Full GC,RT 瞬间飙到秒级。监控
jstat和 CloudMonitor 内存水位。 - 公网带宽打满:50Mbps 撑不住 10万 请求的平均响应体积。建议业务流量尽量走内网,公网出口上 CLB/ALB + DDoS 基础防护。
- 下游依赖先崩:ECS 再能打,RDS/pg 连接池上限、Redis 最大客户端数、OSS 签名限频,往往比计算节点先到天花板。
阿里云落地 Checklist
- 实例选型:别用通用型(g6/xlarge)硬扛。计算密集选
c7/g7,内存敏感选r7,起步规格建议 8C16G 以上。10万并发规模不建议缩到2C4G。 - 网络架构:
- 公网入口用 CLB 或 ALB,跨 AZ 部署规避单机房风险。
- 应用间通信全部走 VPC 私网,省带宽费且延迟低几个数量级。
- 静态资源直接上 CDN,后端压力能砍掉 60%~80%。
- 高可用基线:至少 2 个可用区各挂 2 台,CLB 健康检查剔除异常节点。单点 = 业务随时可停摆。
- 系统调优:
net.core.somaxconn=65535 net.ipv4.tcp_max_syn_backlog=65535 net.ipv4.tcp_tw_reuse=1 fs.file-max=2097152内核加载
tcp_bbr提升队列吞吐,配合systemd持久化。 - 可观测性:CloudMonitor 设 CPU/内存/带宽/连接数四维告警,APM 用 ARMS 看调用链耗时分布,别等页面 502 再翻日志。
最后说句实在话
云实例不是乐高积木,数量不能靠拍脑袋。
唯一可靠的动作:拿你的真实镜像和脚本,在测试环境用 wrk/jmeter/locust 逐步加压,记录 RT 曲线和错误率拐点。拐点出现时的单节点承载值 × 冗余系数(通常 1.5~2)≈ 生产所需实例数。
阿里云控制台里有《ECS 性能调优指南》和《网络最佳实践》,按步骤过一遍能少走很多弯路。需要具体某个技术栈的压测模板或调优参数,直接丢栈名出来,我发可直接跑的脚本和 systemd 配置片段。
云服务器