兆芯处理器设备全面支持DeepSeek-R1模型,涵盖笔记本、台式机、工作站和服务器,兼容多种操作系统及国产GPU加速卡。KX-7000和KH-40000系列成功部署不同规模DeepSeek模型,实现
兆芯处理器设备全面支持DeepSeek-R1模型
2月24日,兆芯公司宣布,他们基于自家处理器的电脑(包括笔记本、台式机、工作站和服务器)已经全面支持DeepSeek-R1 Distill模型。这个模型有多种参数规模,从1.5B到671B不等。
在操作系统方面,兆芯的设备可以使用Linux、Windows以及各种国产操作系统。此外,这些设备也兼容国产GPU加速卡,用于AI计算。
KX-7000部署DeepSeek模型
### KX-7000台式机本地部署DeepSeek-R1-7B模型
使用基于KX-7000桌面处理器的台式机,并搭配国内显卡和加速卡,在本地成功部署了DeepSeek-R1-7B模型。这样可以充分利用DeepSeek的强大语义理解和推理能力。
通过与常用的工具如WPS Office(包括Word和Excel)、VSCode等整合,可以实现智能文档处理、数据处理和智能编程等功能。
#### 智能文档处理
#### 智能数据处理
#### 智能编程
KX-7000是兆芯推出的新一代高性能桌面PC处理器,采用了全新的“世纪大道”自主内核微架构及先进的Chiplet互连架构,集成了8个CPU核心,共享32MB三级缓存,最高工作频率可达3.7GHz。
### KH-40000/16工作站部署DeepSeek-R1-32B模型
基于KH-40000/16服务器处理器的工作站“联和东海XRS302”,成功部署了DeepSeek-R1-7B、14B、32B模型。该工作站配备了4块高性能国产GPU推理加速卡,提供了高性价比且稳定的推理能力。优化的CPU与多GPU间的互连架构,能够有效提升传输带宽并降低延迟。
低功耗静音的AI工作站
这款设备采用了低功耗和静音设计,非常适合用于智能办公等桌面上的AI推理任务。
### 联和东海XRS302 AI工作站
使用KH-40000/32双路服务器来部署DeepSeek R1 671B模型。这个服务器配备了开胜KH-40000/32处理器,可以提供双路64核心的高性能计算能力,并支持高达2TB的内存,具有很强的扩展性。
### 部署情况
通过与国内加速卡配合使用,KH-40000/32服务器成功完成了DeepSeek-R1-70B版本的部署,适用于数学、编程和推理等领域。
### 在兆芯服务器上的部署
此外,在没有插入任何外部加速卡的情况下,KH-40000/32处理器成功完成了DeepSeek-R1-671B大模型的本地部署,证明了兆芯服务器CPU架构能够支持大规模参数模型的运行。
本文来自于百家号作者:谈谈数码,仅代表原作者个人观点。本站旨在传播优质文章,无商业用途。如不想在本站展示可联系删除