DeepSeek-R1部署!兆芯全系展现双路64核实力

兆芯处理器设备全面支持DeepSeek-R1模型,涵盖笔记本、台式机、工作站和服务器,兼容多种操作系统及国产GPU加速卡。KX-7000和KH-40000系列成功部署不同规模DeepSeek模型,实现

兆芯处理器设备全面支持DeepSeek-R1模型,涵盖笔记本、台式机、工作站和服务器,兼容多种操作系统及国产GPU加速卡。KX-7000和KH-40000系列成功部署不同规模DeepSeek模型,实现

兆芯处理器设备全面支持DeepSeek-R1模型

2月24日,兆芯公司宣布,他们基于自家处理器的电脑(包括笔记本、台式机、工作站和服务器)已经全面支持DeepSeek-R1 Distill模型。这个模型有多种参数规模,从1.5B到671B不等。

在操作系统方面,兆芯的设备可以使用Linux、Windows以及各种国产操作系统。此外,这些设备也兼容国产GPU加速卡,用于AI计算。

DeepSeek-R1部署!兆芯全系展现双路64核实力

KX-7000部署DeepSeek模型

### KX-7000台式机本地部署DeepSeek-R1-7B模型

使用基于KX-7000桌面处理器的台式机,并搭配国内显卡和加速卡,在本地成功部署了DeepSeek-R1-7B模型。这样可以充分利用DeepSeek的强大语义理解和推理能力。

通过与常用的工具如WPS Office(包括Word和Excel)、VSCode等整合,可以实现智能文档处理、数据处理和智能编程等功能。

#### 智能文档处理

#### 智能数据处理

#### 智能编程

KX-7000是兆芯推出的新一代高性能桌面PC处理器,采用了全新的“世纪大道”自主内核微架构及先进的Chiplet互连架构,集成了8个CPU核心,共享32MB三级缓存,最高工作频率可达3.7GHz。

### KH-40000/16工作站部署DeepSeek-R1-32B模型

基于KH-40000/16服务器处理器的工作站“联和东海XRS302”,成功部署了DeepSeek-R1-7B、14B、32B模型。该工作站配备了4块高性能国产GPU推理加速卡,提供了高性价比且稳定的推理能力。优化的CPU与多GPU间的互连架构,能够有效提升传输带宽并降低延迟。

低功耗静音的AI工作站

这款设备采用了低功耗和静音设计,非常适合用于智能办公等桌面上的AI推理任务。

### 联和东海XRS302 AI工作站

使用KH-40000/32双路服务器来部署DeepSeek R1 671B模型。这个服务器配备了开胜KH-40000/32处理器,可以提供双路64核心的高性能计算能力,并支持高达2TB的内存,具有很强的扩展性。

### 部署情况

通过与国内加速卡配合使用,KH-40000/32服务器成功完成了DeepSeek-R1-70B版本的部署,适用于数学、编程和推理等领域。

### 在兆芯服务器上的部署

此外,在没有插入任何外部加速卡的情况下,KH-40000/32处理器成功完成了DeepSeek-R1-671B大模型的本地部署,证明了兆芯服务器CPU架构能够支持大规模参数模型的运行。

本文来自于百家号作者:谈谈数码,仅代表原作者个人观点。本站旨在传播优质文章,无商业用途。如不想在本站展示可联系删除

本站部分文章来自网络或用户投稿,如无特殊说明或标注,均为本站原创发布。涉及资源下载的,本站旨在共享仅供大家学习与参考,如您想商用请获取官网版权,如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。
科技百科

如何通过三个习惯,让iPhone16物超所值?

2025-2-24 20:46:04

科技百科

对方电话正在通话中是什么情况?

2025-2-24 20:46:06

搜索