快科技 2 月 24 日消息,兆芯官方宣布,基于兆芯处理器的 PC 笔记本 / 台式机终端、工作站、服务器,已经全系成功实现 DeepSeek-R1 Distill 模型的本地部署,涵盖 1.5B、7B、14B、32B、70B、671B 等各种参数规模。
操作系统方面,兆芯原生支持 Linux、Windows、各家国产操作系统,并适配国产 GPU AI 加速卡。
KX-7000 台式机本地部署 DeepSeek-R1-7B 模型
基于开先 KX-7000 桌面处理器的台式机,通过搭配国内显卡、加速卡,在本地成功部署 DeepSeek-R1-7B 模型,可充分发挥 DeepSeek 强大的语义理解和推理能力。
通过与 WPS Word、Excel、VSCode 等常用工具的整合,可以实现智能文档处理、数据处理、智能编程等功能。
智能文档处理
智能数据处理
智能编程
KX-7000 是兆芯新一代的高性能桌面 PC 处理器,采用全新的 " 世纪大道 " 自主内核微架构,以及先进的 Chiplet 互连架构,集成 8 个 CPU 核心,共享 32MB 三级缓存,最高工作频率可达 3.7GHz。
KH-40000/16 工作站部署 DeepSeek-R1-32B 模型
基于 KH-40000/16 服务器处理器的工作站 " 联和东海 XRS302",成功部署了 DeepSeek-R1-7B、14B、32B 模型。
该工作站配备了 4 块高性能的国产 GPU 推理加速卡,可提供高性价比、稳定高效的推理能力,而优化的 CPU 与多 GPU 间互连架构,可有效提升传输带宽,降低延迟。
它还采用了低功耗、静音设计,适合智能办公等桌面本地化 AI 推理场景。
联和东海 XRS302 AI 工作站
KH-40000/32 双路服务器部署 DeepSeek R1 671B 模型
在服务器端,开胜 KH-40000/32 处理器可提供双路 64 核心的高性能计算能力,支持 2TB 海量内存,提供强大的扩展能力。
通过搭配国内加速卡,开胜 KH-40000/32 服务器已成功完成 DeepSeek-R1-70B 版本的适配和部署,适用于数学、编程、推理等应用领域。
兆芯服务器终端上成功部署 DeepSeek-R1-70B 版本
同时,针对满血的 DeepSeek-R1-671B 大模型,在不插入任何外界加速卡的情况下,开胜 KH-40000/32 处理器已经完成本地部署,完整验证了兆芯服务器 CPU 架构承载千亿参数模型的硬件能力。
登录后才可以发布评论哦
打开小程序可以发布评论哦