三易生活 08-04
硬件与应用同频共振,英特尔Day 0适配腾讯开源混元大模型
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

今日,腾讯正式发布新一代混元开源大语言模型。英特尔凭借在人工智能领域的全栈技术布局,现已在英特尔 ® 酷睿™ Ultra 平台上完成针对该模型的第零日(Day 0)部署与性能优化。值得一提的是, 依托于 OpenVINO ™ 构建的 AI 软件平台的可扩展性,英特尔助力 ISV 生态伙伴率先实现应用端 Day 0 模型适配,大幅加速了新模型的落地进程,彰显了 " 硬件 + 模型 + 生态 " 协同的强大爆发力。

混元新模型登场:多维度突破,酷睿 Ultra 平台 Day 0 适配

腾讯混元宣布开源四款小尺寸模型,参数分别为 0.5B、1.8B、4B、7B,消费级显卡即可运行,适用于笔记本电脑、手机、智能座舱、智能家居等低功耗场景。新开源的 4 个模型均属于融合推理模型,具备推理速度快、性价比高的特点,用户可根据使用场景灵活选择模型思考模式——快思考模式提供简洁、高效的输出;而慢思考涉及解决复杂问题,具备更全面的推理步骤。

这些模型已在英特尔酷睿 Ultra 平台实现全面适配,其在 CPU、GPU、NPU 三大 AI 运算引擎上都展现了卓越的推理性能表现 1。以酷睿 Ultra 2 代 iGPU 平台为例,7B 参数量模型在 INT4 精度下,吞吐量达 20.93token/s;0.5B 小尺寸模型在 FP16 精度下吞吐量达 68.92token/s。值得一提的是,英特尔对新模型的 NPU 第零日支持已形成常态化能力,为不同参数量模型匹配精准硬件方案,满足从个人终端到边缘设备的多样化需求。

Device

Model

Precision

Throughput

Intel ® Core ™ Ultra 7 258V ( iGPU )

Hunyuan-0.5B

FP16

68.92

Intel ® Core ™ Ultra 7 258V ( NPU )

48.44

Hunyuan-7B

INT4-MIXED-ASYM

20.93

INT4-MIXED-CW-SYM

15.02

OpenVINO:新模型快速落地的 " 关键引擎 "

作为英特尔推出的开源深度学习工具套件,OpenVINO 以 " 性能优化 + 跨平台部署 " 为核心优势,可充分释放英特尔硬件资源潜力,广泛应用于 AI PC、边缘 AI 等场景。其核心价值在于能将深度学习模型的推理性能最大化,同时实现跨 CPU、GPU、NPU 等异构硬件的无缝部署。

目前,OpenVINO 已支持超过 900 个人工智能模型,涵盖生成式 AI 领域主流模型结构与算子库。这样的模型支持体系,使其能在新模型发布的 Day 0,即完成英特尔硬件平台的适配部署。此次混元模型的快速落地,正是 OpenVINO 技术实力的直接体现 —— 通过其优化能力,混元模型在酷睿 Ultra 平台的性能得到充分释放,为用户带来即发即用的 AI 体验。

生态共创:AI 技术到应用的 " 最后一公里 " 加速

生态合作是英特尔 AI 战略的核心支柱,驱动人生作为其长期合作伙伴,专注于互联网客户端软件研发及运营,本着 " 以用户为中心,以技术为根本,以开放为原则 " 的理念,长期致力于技术研发和技术创新,为用户提供优质的服务。其 AIGC 助手软件,实现本地部署,离线使用,支持文字输入、语音转译,将大模型装进背包,可随时随地与它进行智能对话,还能让它帮忙解读文档,编撰方案。

该应用采用 OpenVINO 推理框架,借助其快速适配能力,在混元模型发布当日即完成应用层适配,成为首批支持新模型的应用之一。

目前,驱动人生 AIGC 助手、英特尔 AIPC 应用专区和多家 OEM 应用商店的 AI PC 专区均已上线,搭载混元模型的新版本也将在近期推出,用户可第一时间体验更智能的交互与服务。这种 " 模型发布 - 硬件适配 - 应用落地 " 的全链条第零日响应,正是英特尔生态协同能力的生动写照。

AI 的发展离不开模型创新与软硬件生态协同 —— 模型如同燃料,生态则是驱动前进的引擎。英特尔通过硬件平台、软件工具与生态网络的深度协同,实现对新模型的第零日适配,不仅加速了技术到应用的转化,更推动着整个 AI 产业的高效创新。未来,英特尔将持续深化与合作伙伴的协同,让 AI 创新更快走进千行百业与大众生活。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

英特尔 开源 腾讯 酷睿 深度学习
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论