通信产业网 08-02
亚信科技:如何做好行业专属大模型?
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

在技术、成本、产品和市场之间找到最佳平衡,实现通信大模型健康可持续发展。

自 2023 年通信运营商入局 AI 大模型以来,一年的时间内,中国电信、中国移动、中国联通三大运营商集体完成了新一轮的大模型进化,特别是围绕大模型开始重构通信业研发与应用,加速推动技术革新和产业升级。那么,运营商究竟需要怎样的通信大模型?

三大运营商:

在大模型赛道上殊途同归

随着企业数智化进程的加快,AI 必将成为社会基础设施之一。可以看到,运营商把战略重点放在行业大模型,加速智能化应用落地。

在云业务市场份额最高的中国电信尤其重视模型基础能力的建设,中国电信很早就提出了 "1+1+1+M+N" 的战略,即 1 个智算云底座、1 个通用大模型底座、1 个数据底座、M 个内部大模型、N 个行业大模型。其星辰语义大模型的发布也让中国电信形成了从语义、语音、视觉到多模态一整个全模态完备的大模型布局。

中国移动发布了全栈国产化生态大模型 " 九天智能基座 ",包括万卡算力、千亿模型及百汇平台三部分。九天智能基座大模型在 11 个领域的模型评测均拿下了最高成绩,其能力达到 GPT-4 的 90%。此外,中国移动已布局 17 个细分领域行业大模型,覆盖政务、医疗、办公等场景。

中国联通发布了元景 "1+1+M" 大模型体系,即 1 套基础大模型、1 个大模型底座、M 种行业大模型的大模型体系。元景 MaaS 平台可以提供模型库、工具箱、原生应用商店三大服务,其中模型库中内置了包括通用大模型、工业领域大模型、基础小模型等超 150 个模型。

运营商究竟需要怎样的通信大模型?

亚信科技首席技术官兼高级副总裁、IEEE Fellow 欧阳晔博士在接受《通信产业报》全媒体记者采访时表示,目前看来,中国各通信运营商在大模型的赛道上的路径选择殊途同归。首先,构建大模型 MaaS 平台 , 有效管理算力与模型服务;其次,基于高质量行业数据,打造行业大模型提供专业的 AI 服务能力;最后,基于行业大模型完成应用创新,加快数智化转型。

其中,基于云网融合的大模型 MaaS 平台。运营商凭借着算网融合、云网融合的能力,夯实了 AI 底层基础设施能力,覆盖到绝大部分有数智化需求的政企客户,构建了运营商独有的优势,为其布局大模型奠定了坚实的基础。之后,各大运营商纷纷以云计算的模式构建大模型 MaaS 平台。

具有专业认知能力的行业大模型。无论是通用模型、智算中心还是 MaaS 平台,运营商的终极目标是通过打造政企领域多个纵深、垂直的行业大模型,实现快速落地与变现。中国电信首先推出形成教育大模型,继而发布了政务服务、基层治理、医保等 12 个行业大模型。中国移动基于九天大模型,推出 20 余款面向政府治理、工业生产、民生服务和通信特色等领域的行业大模型。中国联通推出了覆盖装备制造、仓储物流、电力、钢铁等十多个行业大模型。

基于大模型的 AI+ 创新应用。客服一直是运营商的主要业务方向,也是智能化程度渗透较高的行业。基于多年在客服领域的深耕,三大运营商沉淀了平台的能力,积累了丰富的经验和海量的数据,为客服大模型的训练提供了肥沃的土壤。同时,在大模型技术的加持下,通过发挥大模型多模态、拟人化交互等优势,三大运营商不断提升智能客服的能力和相关产品,极大降低了人工客服答复时间和辅助人工思考,提高了用户使用的体验感。

亚信科技:

做行业专属大模型

通用大模型落地垂直行业有鸿沟、缺乏统一纳管造成重复建设、缺少快速落地的方法和工具等问题,是制约大模型广泛应用的主要障碍。亚信科技认为,适配行业场景和需求的大模型才是好模型。因此,亚信科技不做通用大模型,而是聚焦行业,做专属大模型。

据了解,亚信科技立足通信、政务、能源、交通等垂直行业真实场景,综合考量 " 行业专属、数据安全、持续迭代、综合成本 " 等因素,聚焦 " 平台、模型、工具 " 三个层面,建立面向行业认知增强的大模型 "1-3-8" 产品体系,将依托 " 全栈 AI" 快速赋能垂直行业。

1 是指大模型研发的底座平台,一个通用人工智能与认知增强平台。TAC MaaS 平台是通用人工智能 AGI 赋能应用的基础平台,提供了行业差异化的能力,为大模型提供国内外的异构算力的支持。TAC MaaS 提供了为大模型的训练和推理实现优化和加速的 PaaS for AI 的能力,实现了通用知识和行业认知的三个融合增量,即:大模型与行业知识库的融合增强,大模型与存量的 IT 网络小模型的融合演进,业务流程能够与亚信科技的自主代理、自主智能体功能的融合增强,完成整个业务流程的自动化、智能化的全流程闭环。而 AI Agent 是亚信科技打造 AI 原生的核心,TAC MaaS 可以一站式的可视化的来构建 AI 原生应用的智能体。

同时,基于 TAC MaaS 大模型研发底座平台,亚信科技还发布了 3 个行业大模型——编程大模型、自智网络大模型、智能运维大模型。其中," 渊思 · 编程大模型 " 可以支撑行业专属场景的代码生成注释、代码总结、单元测试生成等 10 余项编程任务;" 渊思 · 自智网络大模型 " 能够支撑网络状态实时分析、网络故障识别、网络投诉处理等网络全生命周期智能化能力;" 渊思 · 智能运维大模型 " 则会提供客户投诉处理、运维工单处理、运维知识问答、运维决策执行等全方位智能运维服务。

8 则是指亚信科技为企业提供了 8 个工具,包括渊思慧见 · 业务智办副驾(ChatCRM)、渊思慧见 · 自智网络副驾(AN CoPilot)、渊思慧见 · 商业智能增强分析工具产品(ChatBI)、渊思慧见 · 知识对话机器人(ChatBots)、渊思慧见 · 图灵程序员(TuringCoder)、渊思慧见 · 智能运维副驾(Ops CoPilot)、渊思慧见 · 任务编排自动化工具(RPATaskGPT)、渊思慧见 · 数据管治副驾(DMG CoPilot),这些工具便于嵌入到企业的具体流程和交互场景中,用于解决企业应用的最后 100 米。

渊思大模型目前在各行各业已经形成了 70+ 的落地商用案例,目前是以通信行业为主,在其他的垂直行业,比如能源行业、交通行业,也正在逐渐落地。在实际的商业化落地案例中,亚信科技在充分理解客户需求和痛点的基础上,通过大模型有效为客户的业务场景进行注智赋能。

依托 " 全栈 AI":

亚信科技大模型助力运营商业务创新

亚信科技在通信人工智能领域基于渊思慧见行业大模型融合原有在通信运营商客服、营销,以及网络等多领域的精确小模型和业务知识,创新性的提出了AI Native 重构软件产品的理念,这是一套基于第一性原理以通用人工智能(AGI)为核心重构数字化系统的方法论和技术体系,用于助力运营商业务创新,赋能企业数智化转型。

基于这一理念,亚信科技将原有的云原生平台即服务 PaaS(Platform as a Service)升级到模型即服务 MaaS(Model as a Service)完成技术跃迁,并在渊思慧见 · TAC MaaS 平台上推动业务系统从微服务(Microservice)到智能体(AI Agent)的设计模式变革,同时也基于渊思慧见 · 代码大模型和渊思慧见 · 运维大模型推动从 DevOps 到增强型软件开发生命周期 SDLC(Software Development Life Cycle)的研发工程管理演进。

亚信科技首席技术官兼高级副总裁、IEEE Fellow 欧阳晔博士表示,在大型模型时代,AI 技术的高成本和复杂性引入了新的挑战,企业需要同时关注技术的可行性、成本管理,以及产品市场的契合度。

欧阳晔博士坦言,简而言之,我们基于渊思慧见大模型助力运营商完成了核心使能技术、应用设计模式和研发工程管理的升级,并提供一系列工具产品提升了生产力、优化了生产关系。

如某省级运营商引入亚信科技智能运维副驾(OpsCoPilot)工具,构建 " 厅厅通 " 智能服务平台,辅助进行工单拦截,成功提升了该省级运营商的工单拦截率,大幅压缩了大量无效和重复工单在系统中的流转,有效提升了 " 厅厅通 " 智能服务平台的运营效能。根据最新的效果数据,目前 " 厅厅通 " 智能服务平台,在保证超过 95% 的问答成功率基础上,最高实现了 55% 的工单拦截率,远超 30% 的业界平均水平。

欧阳晔博士指出,在大型模型时代,AI 技术的高成本和复杂性引入了新的挑战,企业需要同时关注技术的可行性、成本管理,以及产品市场的契合度。我们会以大模型产品落地为目标,采用 TC-PMF 更全面、更综合的评估通信大模型的竞争力,帮助我们在技术、成本、产品和市场之间找到最佳平衡,实现可持续发展。

一方面,数据要素流通优化。数据是训练和部署大型模型的基石。在通信行业中,数据来自各种渠道,包括用户设备、网络设备、传感器等。为了优化数据要素流通,我们需要进一步考虑加强数据清洗和标准化,确保数据质量高,消除噪声和错误。这有助于提高模型的准确性和稳定性。促进不同公司和组织之间的数据共享和协作,以便更好地训练模型。数据共享可以通过隐私保护协议和技术来实现。

另一方面,算力网络发展。大型模型需要强大的计算资源来训练和推理。在通信行业中,我们首先可以考虑以下方面投资于高性能 GPU、TPU 等设备,以加速模型训练。其次是优化分布式计算和边缘计算,将计算任务分布到多台设备上,以提高计算效率。边缘计算也可以在离用户更近的位置进行模型推理,减少延迟。

采写:胡媛

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

逗玩.AI

逗玩.AI

ZAKER旗下AI智能创作平台

相关标签

中国电信 ai 中国移动 中国联通 亚信科技
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论