阿里巴巴的RISC-V芯片无需GPU即可运行27B模型

在芯片技术的重大飞跃中，阿里巴巴达摩院宣布其玄铁C950处理器成功原生运行了通义千问3.8-27B大语言模型。这标志着RISC-V架构芯片首次直接驱动拥有270亿参数的模型，无需专用显卡或模拟层。

技术奇迹

玄铁C950是一款基于台积电5纳米工艺的64位服务器级处理器。它拥有多达64个计算核心，通过高速AMBA CHI总线互连，每组8个核心。该芯片最高时钟速度可达3.2GHz。其硬件设计包括8指令解码宽度和16级流水线，与前代玄铁C920相比，内存带宽提升了四倍以上。它还集成了针对AI推理优化的矩阵和向量加速引擎。

在基准测试中，C950的单核性能在SPECint2006中超过70分，创下了全球RISC-V CPU的新纪录。

性能说明一切

在运行通义千问3.8-27B模型时，C950实现了每秒30个令牌的解码速度，首个令牌延迟保持在1.9秒以内。传统上，如此大的模型需要16GB到24GB的专用GPU内存。但C950仅使用CPU及其片上加速引擎即可处理整个推理过程——无需外部显卡。

为何重要

RISC-V的开源特性提供了战略优势。与x86或ARM架构不同，RISC-V没有高昂的许可费，阿里巴巴对通义模型系列、其云基础设施和玄铁芯片设计拥有完全控制权。这种垂直整合意味着未来的模型可以针对硬件进行深度优化，后续芯片可以根据实际数据进行定制。它为AI基础设施的多样化开辟了新的可能性，使其更易获取和适应。

关键要点

• 突破：阿里巴巴的玄铁C950在RISC-V上原生运行270亿参数模型，无需GPU。
• 性能：每秒30个令牌解码，首个令牌延迟1.9秒。
• 硬件：5纳米工艺，64核，3.2GHz，配备AI加速引擎。
• 影响：可能减少对昂贵GPU基础设施的依赖，并促进AI硬件的创新。