奋斗
努力

阿里发布开源推理模型 QwQ-32B,支持消费级显卡本地部署?

云计算

是的,阿里巴巴于2025年3月6日发布了开源推理模型QwQ-32B,并支持在消费级显卡上进行本地部署。QwQ-32B是一款拥有320亿参数的模型,通过大规模强化学习,在数学、代码及通用能力上实现了显著提升,整体性能比肩DeepSeek-R1。同时,该模型大幅降低了部署成本,使得用户可以在消费级显卡上轻松实现本地部署。

 

QwQ-32B采用了Apache 2.0开源协议,所有人都可以免费下载并商用该模型。此外,用户还可以通过通义APP或网页版Qwen Chat进行体验。

 

在性能方面,QwQ-32B在多项基准测试中表现出色,几乎完全超越了OpenAI的o1-mini模型,并与DeepSeek-R1相当。例如,在数学推理基准AIME24和编程能力测试LiveCodeBench中,QwQ-32B的表现与DeepSeek-R1相当,远胜于o1-mini。

 

总的来说,QwQ-32B的发布为开发者和企业提供了更高效的推理能力,同时降低了硬件门槛,推动了人工智能技术的普及。

 

未经允许不得转载:云服务器 » 阿里发布开源推理模型 QwQ-32B,支持消费级显卡本地部署?