潮涌AI 5小时前
月之暗面联合创始人张宇韬:从Prompt到Harness,Agent工程的演进之路
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

© 潮涌 AI 编辑部

当大模型从单次问答的对话工具,逐步走向能够自主规划、循环执行、长时间完成复杂任务的 Agent,整个行业对于 AI 工程化的改造重心也在持续迁移。

如今,行业真正要攻克的命题,是搭建一套完整运行环境,支撑模型自主完成小时级闭环任务。

大模型自身的理解、推理、规划能力持续涌现,与之配套的工程方法论也要同步完成迭代。

7 月 3 日,月之暗面联合创始人张宇韬在 "2026 全球数字经济大会人工智能融合应用发展论坛 " 上发表了《从 Prompt 到 Harness,Agent 工程的演进之路》主题演讲,完整梳理了大模型三段技术演进脉络,结合团队落地 Agent 的实践经验,拆解新一代 Agent 工程的底层逻辑、核心原则与长期发展思路。

以下是张宇韬演讲实录,经潮涌 AI 整理发布:

三个热词:

Prompt → Context → Harness Engineering

非常荣幸能够来这里分享,模型厂商对于 AI 工程化以及整个 AI 构建 Agent 实践中的 Know-how。

大模型从 2023 年发展到现在,其实经历了很多不断迭代的过程。

整个旅程中有三个热词:

2023 年 ChatGPT 刚发布的时候,我们一直在强调的概念是 Prompt Engineering。

2024 年演化到 Context Engineering。

到 2026 年,现在最热的一个词叫 Harness Engineering。

这三个词意味着什么?

第一,我们要问问题。怎样在聚焦的情况下,在有限的上下文中把问题讲清楚,让 AI 能够精准回答——这是 Prompt Engineering。

第二,ContextEngineering。当上下文空间、模型的窗口扩展以后,我们怎样能够去提供更充分、更精准的信息,让模型完成更复杂的任务。

第三,Harness Engineering。随着模型能力不断提升,模型已经不局限完成单轮任务、回答一个问题,而是可以做一个小时级别以上的复杂任务。你怎样让它通过一个循环过程,不断自我探索,最终完成。

1、2023:Prompt Engineering 时代,4K 上下文的局限

我们把时间回到 2023 年。

那个时间点,面对 ChatGPT 刚发布,我们有一个很困惑的地方:它只支持 4K 的上下文空间。在这样的上下文空间,你能够做的事情非常局限。你需要非常精妙地利用这个空间,把你的问题提出来,把你的任务布置下去。

所以,那个时候我们一直强调怎样做好 PromptEngineering。本质就是在有限的上下文空间中,怎样更精准地把问题部署给模型,让它完成。而且那个时候模型的智力是有限的,所以你怎样适配模型对于 Prompt 的理解非常重要。

2、2024:Context Engineering 时代,工具调用进入上下文

时间来到 2024 年。那个时候各个模型的上下文窗口开始扩展了,从 4K 到 32K 到 128K,甚至是 1 兆以上的上下文窗口。并且模型能力有一定提升以后,我们开始尝试让模型不只是回答问题,而是做一些更复杂的任务。

这个时候我们引入了上下文工程的概念。我们要把工具的调用聚焦到上下文空间中,让模型给它足够的信息和很好的组织,让它利用外部信息,就可以让模型完成更复杂的任务。这是这个阶段我们聚焦的事情。

3、2026:Harness Engineering 时代,小时级任务的拐点

随着模型能力的不断提升,我们看到一个拐点。

原来的模型能力有限,对于指令的遵循能力有限,对于理解一个长任务能力有限,它能够完成分钟级别的任务——这个分钟级别的任务通常在一个上下文空间中能够表现清楚。

现在我们看到模型有充分能力可以做小时级别以上的任务。这个情况下,我们必须给模型一个更好的环境空间,让它充分发挥自己的能力。

这个时间点,模型的局限已经不再于模型能力本身,而是在于怎样给它足够好的空间让它可以发挥。

这个情况我们思考怎样构造一个环境去驱动它,让它在闭环中自己解决问题。这就是所谓的 Harness Engineering。

听起来是很漂亮的词,但所谓的 Agent 本质上非常简单,其实就是一个循环。

对于代码开发人员就是一个 while 循环。这个模型没有解决的时候,它自己探索下一步应该做什么,自己决策下一步应该做什么,然后执行这个决策,然后看是不是达成结果。如果遇到了错误,它想怎样从错误中恢复过来,是不是让人介入解决这些问题。最终看有没有解决问题——如果这个问题已经被解决,任务完成了就结束循环;如果没有解决,继续循环。

这就是 Agent 工程,它其实都在解决这一个问题。

脚手架哲学:模型能力提升后及时撤掉

我们需要做的就是在这个循环内更好地定义 Agent 框架,让它在充分安全的环境中自由探索,并且让它发现怎样去解决,给它足够好的工具,可以让它去发挥。

所以,这三个概念,不是三个完全独立的概念,其实是一个递进的概念,甚至是一个包含的概念。

现在整个 Agent 工程中,我们需要考虑怎样设计好 Prompt,让它更清晰地让模型理解用户意图。同时我们做好 Context,把外部工具、更好的东西可以注入进来、组织好,让它充分理解。最终构建一个更好的 Harness,让它以非常自信、非常自洽的方式来执行。

前面生数科技创始人朱军老师提到了 Bitter Lesson 的概念。

这是我们所有做模型的人一直思考的问题:怎样让一个更通用的方式解决所有的问题,而不是用人工的方式去适配、不断去定义它。因为通常来说,随着模型的不断提升,那些人工的定义通常都会失效,甚至成为负担。

所以,我们自己在做 AI 工程的时候也会思考这样的问题。

有一个误区:我们需要精妙地设计一个框架来让模型发挥得很好。但是实际上真正的过程并不是这样。真正的过程是用模型的边界、能力边界来定义到底这个框架怎么实现。

在这个过程中,我们通常会这么使用:先构建这样的框架,让模型开始试探,发现能力边界,发现有什么问题。

当它有问题的时候,我们引入一些脚手架,这些脚手架可以让它拔高一点,在现有能力下做超出它能力的事情。随着模型不断提升,这些脚手架及时撤掉,这样它未来不会成为模型的累赘。

举个例子。

2023 年第一次发布 Kimi 的时候,模型不具备自主调用搜索引擎的能力。那个时间我们要引入一个小模型,一个我们精心训练的小模型,它只做一个事儿:比如我该调用什么搜索引擎,以及用什么搜索词来搜。就是这样的小模块,让模型在那个时间点不具备这个能力的时候,突破了一下。产品中呈现了这个功能,这个功能也受到用户的欢迎。

随着模型能力提升,我们观察到,小模型已经成为整个链路中的一个瓶颈。

因为一个小模型,比如几百兆或者 1B 的小模型,它的智力远远不如上 TB 的大模型的智力。它做一个前置判断,可能会导致整个问题的正确率成为所有人的瓶颈。

所以,开发 K2 阶段的时候,我们开始思考:是不是应该把这个拐杖撤掉?其实我们可以让模型自主发挥,让它自己想现在是不是调用这个工具,是不是调用这个搜索引擎,应该怎么搜,搜多次还是一次,甚至利用搜索引擎的高级语法——应该限定一个 site 还是怎么样。

模型可以完成非常复杂的多轮搜索的任务,甚至解决人都不好解决的问题。

这是一个非常重要的观察,也是非常符合 Bitter Lesson 的原则。

Agent 工程的四个核心原则

迭代这些 AI 工程的时候,我们也在思考。

这个范式非常简单:不管观测当前状态下,这个模型有没有解决问题,去思考我应该怎么解决这个问题,去执行,发现问题以后怎样给它错误的回馈机制,最终不断循环。

模型的能力是一个不断涌现的过程。

我们没法很早定义现在的状态应该用什么解决方案,甚至我理解对于整个世界最头部的这些 AI 公司,他们也没有正确答案。因为某些能力是迭代中不断涌现出来的。

这个情况之下,我们不应该限定框架应该做什么,而是随着模型的进步,我们给它更好的助力,并且找到它当下的边界。

这也是我们自己做 AI 工程、做 Agent 工程的时候总结出来的原则:

第一,刚才提到 Agent 本质就是一个很简单的东西,我们不要给它增加复杂性。

第二,怎样把对的信息、合适的信息、更重要的信息放进上下文,利用好这个窗口。这是它最重要的事情,是决定模型能力能不能发挥的事情。

第三,我们要很好地设计这些工具。所谓的工具对于模型来说,就像编程中的接口设计一样,需要足够清晰,不能有歧义。否则这些工具,模型用不好,甚至还会给模型增加负担。

第四,对于模型的记忆系统,它没有完美的解决方案。因为模型上下文空间有限,并且对于上下文空间的掌控能力也有限,所以,在一致性和创造性之间需要做一个权衡。这个过程中,可以选择把所有的信息放在上下文中,让它不断自我发展;也可能引入一些压缩的机制,包括总结的机制,或者是一些筛选的机制,让它可以更精准地去命中一些更重要的信息。这其实是我们在实践中不断探索的事情。

衡量 Agent 的价值:人类有多信任它

刚才提到 Bitter Lesson,我们让模型自由探索、自由试错、去反馈,基于反馈去不断衍生、不断自我成长,会优于我们用精妙的设计来预定好一个框架让它去执行。

最后一点,先做一个最好的闭环,让模型先在闭环中跑起来,在这个过程中自然生长,而不是预先思考怎样构造一个复杂系统。

这是我们做好 Agent 的过程中的核心思路。

我们衡量一个 Agent 的价值,不再是单次实践能够做出最强能力的东西,而是我们人类有没有信任给它,让它可以去做复杂的任务。

其实衡量一个模型的价值,人类越自信地可以放手让它做,它的价值就更高。

这个过程中,我们如何构建一个足够好的环境,让人类可以充分信任,模型可以充分发挥,并且不会搞砸事情,让自我探索的能力发挥到极致——这就是我们认为最有价值的 Agent。

整个 Agent 工程中,核心解决这个问题:如何让人更加信任 Agent 去自由地发挥。

以上就是我们自己,无论是模型迭代还是 AI 工程迭代中,我们自己的思考。非常感谢大家!

"2026 全球数字经济大会人工智能融合应用发展论坛 " 由全球数字经济大会组委会主办,北京市经济和信息化局、朝阳区人民政府承办,中关村科技园区朝阳园管理委员会(北京市朝阳区科学技术和信息化局)、北京数智云科信息科技有限公司、北京信息化协会、北京人工智能产业联盟、北京数智聚联企业管理有限责任公司协办。

= ▹

联系我们 CONTACT US!

请添加微信 xingminghui15

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 张宇 人工智能 创始人 数字经济
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论