前沿科技,数智经济
文|白 鸽
编|王一粟
19.9 元的数字人、29.9 元的云数据库、195 元 10 卡时包的 MaaS 大模型服务 ......
堪称企业级 " 双十一 " 的华为云 828 营销季,带着一众 AI 应用产品和云服务,杀疯了。
云计算叠加大模型的价格战,也正式进入了深水区,开启中小企业的争夺战。
作为中国市场经济的毛细血管,近年来中小企业通过上云加速自身数智化转型升级,已经成为行业发展共识。
对于绝大多数企业来说,拥抱数智化变革,已经成为 " 生存之战 "。尤其在人工智能等新技术席卷全球的浪潮下,企业如果不能跟上时代的浪潮,势必会被市场逐步淘汰。
2024 中国国际大数据产业博览会开幕式上,华为董事、质量流程 IT 总裁陶景文表示,数智新时代,AI 将重塑千行万业。AI 既是工具的革命,也是革命的工具,企业应对准主业成功目标,选择落地应用场景,用好 AI 工具,实现全面智能升级。
华为董事、质量流程 IT 总裁陶景文
但在 AI 大模型时代,想要训练一个自己的大模型产品,于中小企业而言也意味着高额的成本支出," 用不起 "、" 不敢用 " 则成为普遍现状。
针对这一现状,目前各大云厂商都在开展促销服务,更是掀起一轮轮价格战。但上云是持续的过程,最终影响用户持续购买的,还得是靠产品性能和服务。
中小企业
低成本拥有自己的大模型
在以大模型为基础技术的新 AI 时代,一个好的大模型,可以让企业的数智化转型事半功倍。
当前,使用大模型主要有两种方式:
一种是,调用成熟大模型 API 接口,直接使用大模型能力;
一种是,私有化部署或单独自己训练一个大模型;
前者的缺点是可定制化能力差,不能很好的满足企业的个性化需求;后者可定制化程度高,但大模型的开发不仅需要强大的算力,还需学习训练、部署的相关参数配置和规格选择等专业知识,对技术和研发能力要求极高,且投入成本于中小企业而言也难以负担。
要把算力直接部署在企业端,本身是件门槛极其高的事情,曾有云代理厂商告诉光锥智能, " 预算要千万级起步,其次还要配备技术研发团队 "。这就导致,从计算平台到客户之间便产生了一道鸿沟。
谁来填补这道鸿沟?
以华为云为代表的云厂商构建 ModelArts Studio 大模型即服务平台(后续简称 MaaS),其能够提供简单易用的模型开发工具,支持大模型定制开发,能够让模型应用与业务系统无缝衔接,显著降低了企业 AI 落地的成本和难度。
" 云厂商们推出 MaaS 服务与 AI 基础设施建设,能够让我们开箱即用,降低模型训练推理的复杂性,提升开发便捷性,并降低相关成本。" 科大讯飞研究院常务副院长高建清对光锥智能说道。
华为云 MaaS 大模型即服务平台以昇腾 AI 芯片为核心,打造了一套针对大模型训练与推理的全方位优化解决方案,基于该解决方案大模型适配昇腾时间大大缩短,由 " 周 " 降低到 " 天 ",使得开发者在平台可快速选择适合自己业务的 30+ 适配昇腾云的主流大模型。
华为云 MaaS 平台模型广场首页
选择对应的大模型之后,需要进行模型的训练和优化,此时训练效率和大模型的一站式部署,成为了关键。
华为云 MaaS 大模型即服务平台已经沉淀了大量结合适配昇腾 AI 芯片,微调推理调参的经验案例。这使得,中小企业在华为云 MaaS 大模型即服务平台上,无需过多专业知识即可进行结合默认预置的最佳参数,进行模型微调,使大模型的整体训练时间能够大幅度缩短。
针对部署调用环节,以往部署模型和调用,需线下安装机器配置运维复杂度高,效果评测本地查看日志,耗时耗力。ModelArts Studio 提供大模型平台化能力,一键部署,一键调用,支持快速查看调用指标、日志详情,免去各繁琐环节。
基于便捷的大模型 API 能力,开发者不仅可以对接到个人或企业的业务系统,华为云 MaaS 大模型即服务平台还联手企业搜索产品 KooSearch,为中小企业实现了开箱即用 RAG 解决方案,能够帮助中小企业快速的一站式构建智能问答服务,或者联合数字人大脑,快速创建智能对话应用等。
价格与成本,永远是中小企业最敏感的一个板块。
此前企业想要使用大模型,必须先买云资源的服务包,整机价格也相当昂贵。而华为云可以在模型验证阶段,先使用再买卡,用户可以选择各种规格小卡,成本低,效率高。
同时,华为云还提供按需套餐包,针对使用 MaaS 平台的客户,可以在原卡资源规格的基础上,分 10 小时、100 小时、500 小时进行套餐包折扣购买,叠加其他优惠,大大降低了中小企业使用大模型的成本。
可以看到,华为云不仅把大模型应用的成本给打下来了,更重要的是把大模型的使用门槛和技术门槛都打下来了,这样才能真正让中小企业 " 用得起 "、" 用得上 " 大模型。
大模型和业务的深度结合
RAG 是最佳连接器
业内皆知,大模型的发展,离不开高质量的数据 " 喂养 "。
通俗的比喻来说,大模型可以看作是火车头,而企业数据则是火车的燃料,没有燃料火车也无法真正的运转起来。
现阶段,随着企业数智化转型进入深水区,数据呈井喷式增长,都知道数据是未来的 " 金矿 ",但 " 金矿 " 如何开采是一大难题。
而只有将企业内部和外部的数据转化为有价值的知识,数据的 " 金矿 " 才能真正有价值。
此时,就需要一个能够将数据高效 " 投喂 " 给大模型的工具,RAG(检索增强生成)无疑是最合适承担这一角色的技术。
RAG 是一种结合检索和生成技术的模型,通过引用外部知识库的信息生成答案或内容,具有较强的可解释性和定制能力,适用于问答系统、文档生成、智能助手等多个自然语言处理任务中。
RAG 模型的优势在于通用性强、可实现即时的知识更新,以及通过端到端评估方法提供更高效和精准的信息服务。
那么,RAG 究竟是如何牵引大模型和企业数据之间的联动,让大模型更适配业务发展呢?
以华为云 Flexus 企业搜索服务为例,这是基于华为云的云搜索服务搭建的一站式智能搜索解决方案,能够满足企业基于业务场景做二次开发。
华为云 Flexus 企业搜索产品架构
企业的数据往往形式并不单一,有结构化的数据,也有非结构化的数据。
华为云 Flexus 企业搜索基于搜索大模型、云搜索服务的高性能 GaussDB 向量数据库以及 LLM 大模型,三者共同组成了 RAG 解决方案,能够导入非结构化或者结构化业务数据,对企业文档内容进行智能解析,并通过 OCR 增强功能准确识别图片 / 表格等各式版面布局,保证各种形式的企业数据都能够利用起来。
其中,华为云 GaussDB 向量数据库内置 ANN 算法,在当前业界最权威的 ANN-Benchmarks 测试中荣获第一。ANN 算法 QSG-NGT 在 6 个数据集中的 5 个获得了最优性能,在部分数据集高精度区间相比第二名有 50%-100% 的 QPS 提升。
而在大模型大规模应用落地过程中,向量数据库解决了大模型知识更新速度慢、数据隐私不可控和没有 " 长期记忆 " 等问题,突破了大模型在时间和空间上的限制,既是企业数据和大模型之间的 " 连接器 ",也是大模型走向行业深度应用的 " 助推器 "。
通过搜索增强大模型,生成的问答结果更可靠、安全,这对企业级用户来说是迈过了 " 真正能用 " 的关键及格线,解决了大模型 " 内行一用就觉得外行 " 的问题。
好处这么多,那么,RAG 解决方案到底具体能用来做什么呢?
对内,RAG 方案能够将企业积累的数据汇聚在一起,组建企业自己的知识库体系,同时还能够基于企业知识库帮助企业打造更懂企业的数字员工。
对外,RAG 方案则能够整合企业数据和外部数据,可以帮助企业构建在智能客服、数字人、论坛社区等应用的搜索与问答,能够帮助企业一站式搭建知识问答、客服助手、办公助手、车机助手、信贷助手、编辑助手等。
比如在金融行业中,传统的客服依赖人工,很难做到 24 小时在线解答用户问题。而通过整合银行的相关制度规定,以及国家关于金融政策相关法规标准,基本上能够覆盖用户大部分相关问题,而通过将智能客服与人工客服相结合的方式,不仅能让企业节省大量的成本,也能够给用户带来更好的体验效果。
智能客服并不是一个新鲜事,但在大模型能力的加持下,用自然语言交互和端到端语音更自然、延迟也更低的情况下,智能客服会越来越接近人类客服,不会出现各种听不懂、机器音,回答只能靠模板的问题。
智能化 BI
数智化经营的最强助手
企业的数智化转型,是从组织架构到业务体系同步发展,不能够顾此失彼。
于中小企业而言,如何借助专业的工具,将企业内外数据转化为有价值的知识,让管理者更好的了解企业的运营情况、市场趋势、客户需求等信息,并进行科学的管理决策,也至关重要。
因此,集数据采集、存储、处理、分析和可视化于一体的软件系统 BI 工具,堪称是企业提升 " 数智化经营 " 的最强助手。而在大模型浪潮下,BI 工具也在加速向新一代智能洞察演进。
传统的 BI 工具面临着技术门槛高,一般业务人员无法上手实现数据的自主分析,需要内部工程师调教开发,各部门反复沟通确认,数周甚至数月才能拿到数据分析结果。
同时,使用传统 BI 工具制作报表或交叉表,单个大型报表需访问数据库表多达 70+,存在响应慢的性能问题,这也导致业务时效性差。
最为重要的的一点在于,传统 BI 工具不够智能,其仅能满足简单的统计分析报表、大屏,仅能对事实数据进行可视化呈现,对业务问题的根因分析、趋势预测等,无法有效支撑。
所以,在大模型时代,企业,尤其是中小企业,需要新一代 BI 智能分析助手。
华为云智能数据洞察 DataArts Insight 的产品架构
华为云 Flexus 智能数据洞察基于盘古大模型,提供可视、实时、易用、安全的企业智能分析服务,解决了传统 BI 工具的技术门槛高、不够智能和业务时效性差的问题,还可提升大模型的调优效率和推理准确度 1~2 倍,支撑业务实时高效决策。
具体来说,华为云 Flexus 智能数据洞察能够基于盘古大模型,实现全自然语言交互的 BI 自助分析,让一般业务人员和管理者也能轻松获取和分析数据,实现 "0" 门槛自助分析。
同时,通过将数据与盘古大模型进行融合,深入挖掘数据价值,支持异常检测、根因分析、趋势预测等,通过自动分析洞察见解和专题故事生成,辅助业务管理者高效决策。
而在反应速度上,其通过高性能 BI 引擎支持多种加速模式,实现 10 亿数据秒级响应,为使用者提供极致顺滑体验。
于中小企业而言,华为云 Flexus 智能数据洞察还能够支持将可视化图表和盘古 for BI 智能问答机器人嵌入到企业自身的 SaaS 应用界面中,使能 SaaS 应用智能化升级,提升用户体验,并催生新的盈利机会。
智能 BI 得到应用后,将实现业务中任何人在任何时候、任何位置,能够以最自然高效的方式对任何格式数据进行消费,支撑业务实时决策。
对于基层员工而言,通过固定格式报表及自助查询提高工作效率;面对中层管理者,通过即席分析可以支持业务决策;面对高层决策者,则可以通过管理驾驶舱把握企业实时状态。
综上来看,在中小企业的数智化转型中,大模型是底层基础设施能力,RGA 则是连接大模型和企业数据的桥梁,让企业在产品能力上实现数智化转型升级。
而智能 BI 工具则是在大模型和企业数据知识库体系下,面向企业内部应用管理数智化升级的关键,能够帮助企业在海量数据中快速发现规律,进一步挖掘数据价值,洞察业务的过去与未来,高效辅助经营决策。
结语
在 AI 大模型之前,企业上云往往是成本;大模型之后,企业上云就变成了提质增效的动力引擎。
这样的转变,让中小企业转型的动力更加明显,对云厂商来讲也是一个极大的利好——市场需求变多了。
从上面可以看到,华为云针对中小企业推出的几款新产品,都是切中了数智化转型的要害。
从大模型,到 RGA,再到智能 BI 工具,无疑已经构建起了中小企业数智化转型从内到外,从企业组织架构到企业产品能力的体系化升级。
这三款产品,可以说是数智化转型的 AI 三部曲,帮助中小企业奏响 " 提质增效 " 的业绩高歌。
9 月 20 日,在杭州
光锥智能携手 60+ 人工智能领军机构
邀请 4 位重磅嘉宾
共探 AI 未来趋势,即刻扫码报名!
光锥智能"AI 交流群 "已建立,
感兴趣的朋友可以添加小助手微信(GZZN2019)沟通进群。
联系我们
王一粟
创始人 / 主编
ID:cishicike000
※添加时请备注公司 + 姓名 + 来意
登录后才可以发布评论哦
打开小程序可以发布评论哦