The following article is from 商学院 Author 姚期智

  导读   

当所有人还在卷大模型时，图灵奖得主姚期智已经指向了"AI的下一个层次"——不是更快的芯片，而是用"科学重塑AI"本身。从量子AI的崛起到理论突破，他揭示了未来五到十年将洗牌产业格局的底层变量。读这篇演讲，你不是在获取知识，而是在获取先机。

作者 | 姚期智

来源 | 商学院

7月19日，在 WAIC思想者论坛上，姚期智发表《AI的第一性原理：人工智能的威力及其局限》主题演讲，以下是演讲实录：

今天我想和大家聊一聊人工智能。我想现在地球上所有人都已经意识到，AI正在改变世界。它看起来似乎无所不能，所以我们今天要探讨的问题是：AI的能力是否存在边界？更进一步，是否存在另一个层次的科学认知，是我们还有机会去探索的？我想从理论的视角出发，和大家分享一些思考。

本次演讲的结构大致如下：首先，我会简要回顾AI令人惊叹的实践能力，反思AI的本质，在此基础上直接回应"是否存在AI无法解决的问题"这个疑问，我会给大家展示一些AI绝对解决不了的难题。当然，正如我们后面会看到的，AI存在局限其实是件好事。

其次，我会谈谈我认为未来几年AI最令人兴奋的发展方向，这个方向的影响力甚至远超智能机器人带来的改变，将深刻影响社会。我之所以觉得它令人兴奋，是因为它能指引我们找到下一个层次的AI。要做到这一点，我们不能只盯着"AI for Science（AI赋能科学）"，更要关注"Science for AI（科学赋能AI）"，正是科学会把我们带到下一个台阶，而这本身就是一场刚刚拉开序幕的伟大征程。

最后，我会谈谈我认为AI研究中值得关注的几个方向。

AI的本质与不可逾越的边界

首先，我们先反思一下AI的本质。我们从AI高度依赖"机器学习"这个强大工具说起。机器学习作为一种算法范式已经存在很多年，但很长一段时间里被主流计算机科学界忽视了，它的解决方案质量一直在持续提升。

机器学习的基本框架是这样的：给定一个任务和模型模板，模板由参数θ（希腊字母表中的第8个字母Theta）决定，也就是说这是一类算法的集合，我们一开始并不知道该选哪一个。首先要解决的是表征问题，针对我们要处理的任务，这个模板里是否存在一个合适的θ，能让算法完成任务？如果答案是肯定的，或者说我们相信答案是肯定的，那么接下来的"学习问题"就是，能不能在合理的时空成本内找到这个θ？和几十年前艾伦·图灵确立的主流计算机科学算法思路相比，这个框架有什么不同？

在标准计算机科学中，这两个问题通常是合二为一的，研究者不需要外部数据辅助，仅通过数学分析就能完成推导。而机器学习最大的威力，也是我们今天看到它取得如此大进展的核心原因，就是把"从数据中学习"加入了算法的武器库。于是AI机器能在围棋上达到冠军水平、能预测蛋白质折叠，这类成果我们已经见怪不怪了。

现在很多人担心AI的能力过强，甚至担心它会失控，所以问一句"AI的能力有没有边界"是非常合理的。除了学术层面的兴趣，搞清楚这个问题对我们设计安全的AI系统也很有帮助。如果我们知道AI的局限在哪里，反而可以利用这些局限，去寻找更好的算法和更安全的方案。

如果你是计算机科学家，可能立刻就能给出答案，甚至能拿出证明：那个著名的"停机问题"依然是无法解决的。关于"停机问题"我就不做技术解释了，本质上就是说我们很难判断一个程序是否会正确运行。为什么这个问题依然超出AI的能力范围？因为我们之前说过，AI本质上就是加装了一组数据的图灵机，哪怕增加了数据，它依然是图灵机，所以不可能解决"停机问题"。

不过更有意思的是，有哪些实际问题是AI无法解决的？哪怕AI能下围棋、能预测蛋白质结构，看起来几乎无所不能，你可能会觉得所有实际需求AI都能搞定，但事实并非如此。

我举两个例子：第一个和数据安全有关。我们都知道，最新的强AI模型已经可以被用来发起网络攻击，你可能会觉得这类AI能破解所有安全密码。这对我们来说会是灾难性的，毕竟我们靠加密系统保护银行账户、隐私等等。但第一个例子就是：存在一些加密方法，能抵御所有攻击者，不管是标准算法还是AI系统。

我来具体解释一下这个问题，我们看一种特定的攻击模型，叫"选择明文攻击"。假设我们有一个加密系统：我希望朋友能给我发邮件，就算信息在传输过程中被人截获，对方也不知道内容是什么。这个系统的逻辑是：我有一个解密盒，本质是一段程序；朋友有我给的加密盒，能把明文转换成密文，密文在公开网络上传输，任何人都能看到，但只有我能用解密盒还原出原始内容。这个逻辑不难理解，但假设攻击者拿到了你的加密盒，能任意选择明文让加密盒加密，比如他今天输"今天下雨"，得到对应的密文；明天输"我有一只猫"，又得到对应的密文，反复做1万次，拿到1万组"明文—密文"对。问题由此产生：攻击者有没有可能算出我的加密盒是怎么构造的？换句话说，在实践中，攻击者能不能算出我的解密密钥？

这个问题非常实用，它对应着我们广泛使用的公钥加密系统：公钥的所有者把加密密钥放在邮箱、网站甚至公开目录里，任何人都能拿到它给我发加密消息。这种"选择明文攻击下的安全性"是公钥系统等核心基础设施的关键指标，像ElGamal密码这类加密体系，在特定假设下，从数学上是能抵御选择明文攻击的。

密码学是理论计算机科学中非常深厚丰富的学科，属于计算机科学的数学研究分支。我简单铺垫一下：理论计算机科学从20世纪60年代起步，之后几十年自然生长，最棒的地方在于新思想不断涌现，而且往往来自外部数学家、生物学家、电气工程师都会带来新思路，每隔10年就有让人兴奋的新理论出现。随着计算技术的进步，比如图形处理、互联网、AI、量子计算等等，它和其他学科（物理、生物、经济学）交叉融合，催生了新的交叉领域，也产生了重要的实际应用。

我再举第二个例子，也是解决安全通信问题的，叫"量子密钥分发"。这种方法能让两个从未谋面的人，只通过电话沟通，最终得到一个只有他们俩知道的随机密码，哪怕攻击者全程监听了所有对话，也猜不到这个随机值是什么。

这听起来简直像奇迹，但确实存在可行的方法，而且这个方法超越了传统计算机科学，用到了物理定律。它通过物理规律来检测窃听者，如果有黑客试图测量双方的通信内容，会被通信双方察觉，直接丢弃这次通信的内容。这样一来，双方只要成功建立了共享密钥，就能用它进行秘密通信。这个方法涉及量子技术，1984年由查尔斯·本内特和吉勒·布拉萨德发明，已经是40多年前的事了。中国很可能是这个领域的领先国家：2016年，也就是整整10年前，我们发射了全球首颗量子科学实验卫星"墨子号"，利用量子密钥分发实现了安全通信，中国还建成了覆盖全国、连接海外的长距离量子密钥分发网络，长度超过1万公里，服务于电子政务、跨境金融、电网等关键领域。

这件事AI做不到，任何基于经典计算机的攻击都破解不了它。更有意思的是，它还有一个很棒的推论，这套机制最初是为了防止黑客破解系统，但它的基础是物理定律，所以原则上宇宙中没有任何事物能破解它，除非有人推翻量子力学。

"AI for Science"带来的理论突破

回答完"哪些实际问题AI解决不了"之后，我想聊聊未来AI研究最重要的方向。当然，这个问题有很多种回答方式，比如造超级智能机器人、做大模型……AI可做的事太多了。但从理论视角来看，我认为未来3—5年，AI最有趣、最有价值的方向是"AI for Science"。我举几个例子说明AI怎么给科学赋能。

第一个例子是AI在天文学中的应用。几个月前，《科学》杂志发了一篇论文，第一作者是清华的一位年轻研究者。我们一直很好奇宇宙大爆炸之后的演化历史，想知道星系是怎么形成的，一个重要工作就是用望远镜探测早期宇宙的星系。因为这些星系距离我们非常远，信号极其微弱，人们花了很多精力解码望远镜的数据，重构早期宇宙的模样。而这个团队用AI优化了处理流程，本质上就是用一个AI机器，从已有数据里重构那些暗弱的星系。这个过程中，不需要采集新数据，只是处理旧数据，结果就比以前的分析好得多，把可观测的时间线往前推了1亿年，现在已经能接近大爆炸后1亿年的状态了，这非常令人兴奋。我们希望未来能更进一步，让观测的时间更接近大爆炸的时刻。

他们用的是一种叫Asterisk AI的神经网络来解码数据，网络设计里融入了很多巧思。我给大家看一张对比图。从大爆炸开始，左边是哈勃望远镜多年前的观测结果，中间是詹姆斯·韦布空间望远镜（JWST）的观测结果，右边是搭载了AI探测器的JWST的观测结果。可以看到，AI帮我们识别出了更多恒星、更多星系，那些橙色的标记都是新识别出来的天体。

AI现在已经被广泛用于实验科学，就像蛋白质折叠之类的成果，本质上也是通过数据回答科学问题。

以前我不担心AI会取代科研人员，因为我觉得AI只是帮我们分析数据、提取信息的工具。但最近我真的开始担心自己的工作了。当然，很快我就又开心起来，因为最近AI已经开始做出理论突破了，这在以前是人们觉得不可能的事。

我举个例子：宇宙学里有个"宇宙弦问题"。理论认为，早期宇宙留下的宇宙弦会产生引力辐射，一个悬而未决的问题就是确定这种辐射的功率谱，这和宇宙学研究密切相关。就在去年，研究人员用Gemini DeepThink模型解决了这个问题，给出了精确的公式，这个40年来的开放问题终于有了结果，这完全是数学层面的突破。

再看一个真正的数学问题：单位距离问题。这个很好理解：在平面上放n个点，最多有多少对点的距离恰好是1？这个问题80年来一直没有解决，埃尔德什（Paul Erdős，匈牙利籍数学家）猜想这个数量是n的线性函数，而且很容易构造出n对的情况，所以猜想认为不可能比线性好太多，但也不会好太多。最近OpenAI的最新模型推翻了这个猜想，证明可以比线性好，而且证明用到了很深的分圆数论技巧。这整个过程是模型自主完成的，把问题交给它，等两天就能拿到结果。

"Science for AI"开启的量子AI新范式

接下来我想谈谈"AI的下一个层次"，不是指AI现在能做到什么，或者近期能达到什么水平，而是从根本层面问，在人类已有的知识体系中，是否存在比现有方法（包括AI）更强大的、能提取信息、创造知识的方法？要讨论这个问题，我们需要引入物理学的视角，加入新的要素。

我们生活在物理世界中，所以能获取知识的途径，不止是现有计算机的处理逻辑。我要聊聊AI和量子这两大技术的关系。它们是当今最受关注的两大前沿技术，全世界的科技报告里几乎总少不了它们。现在AI是最耀眼的明星，已经成熟到能做出各种看似不可能的事；而量子技术的发展更早，差不多100年前就开始了基础科学研究，但直到四五十年前我们才想到怎么控制量子系统。过去40年里，科学家们一直想把量子相关知识用到计算中。我想谈谈这两大技术怎么互相赋能。

先说说我们已经知道的，AI可以帮助量子计算的发展。1981年，著名物理学家理查德·费曼提出了量子计算机的概念：用量子比特而非经典的0/1比特来做信息处理，简单来说，它就是比经典比特更通用的存在。费曼的论文激发了物理学家、计算机科学家的研究热情，因为"打破图灵机的垄断"这个想法太有吸引力了，无论是对智力层面的好奇，还是对它应用前景的期待，都让人难以抗拒。

计算机科学家彼得·肖尔是关键人物，1993年，他发现量子计算机能解决一些经典计算机搞不定的难题，比如密码学里的整数分解问题。数学家们一直认为分解大整数是超出经典计算机能力的。

肖尔的论文非常重要，吸引了大量科学家和资助机构投入到量子计算机的研发中。3年后，肖尔又做出了更惊人的成果。一开始，物理学家觉得造量子计算机很难，因为量子比特非常脆弱，很容易被干扰，噪声问题很难解决。但肖尔发现，如果你能把量子纠错的错误率控制在某个阈值以下，比如单比特逻辑门的错误率低于1%，那么理论上你就可以把量子计算机扩展到任意规模，造出可靠的量子计算机。这和冯·诺依曼当年解决经典计算机可靠性问题的思路是完全对应的，这意味着物理学家在原则上不再反对建造可用的量子计算机了。

过去40年里，纠错一直是量子计算机研发的核心挑战，直到最近，人工智能出手解决了这个问题。

我刚才说量子比特脆弱，纠错至关重要。一年半前，谷歌在《自然》杂志发表了一篇论文，介绍了一款叫Willow的量子芯片，上面集成了约100个物理量子比特，能编码出1个理论上可以永久稳定存在的逻辑量子比特，把错误率降到了1%的阈值以下。这是历史上第一次做到这一点，对所有做量子计算机研发的科学家来说都是极大的鼓舞。

那么AI、神经网络在这个过程中起到了什么作用？它们的核心技术是设计了一个叫AlphaQubit的解码器，专门用于量子纠错。我们无法通过纯理论推导直接造出这个解码器，但通过机器学习的方法，用大量样本训练神经网络，就能得到这个珍贵的解码器，实现刚才说的纠错效果。现在，全球的科研团队都在跟进这个方向，包括中国的几个团队也处于前沿位置。

现在回到我之前提出的话题：反过来，量子能不能增强AI的能力？我们认为，如果在机器学习的框架里，不用图灵机做学习载体，而是用量子机器作为基础架构，从数据中学习，甚至可以直接学习量子数据，那么在更通用的模型下，是不是能做出AI都做不到的事？

这个问题人们已经研究了10年，最近我们真的看到了曙光，一个被称为"量子AI"的方向正在兴起。我个人相信，未来5—10年，我们会看到巨大的进展。这非常好，因为AI的新鲜感迟早会过去，不会再天天上头条，而量子AI会接棒，刚好让科学探索的火焰持续燃烧。

未来值得关注的AI研究方向

总结一下，AI已经在多个领域展现了巨大的能力，但AI算法依然受限于物理定律和理论数学的边界，这为我们的重要任务，即构建安全的AI系统提供了基础。

本次WAIC大会的主题既包括AI的能力，也关注AI安全，了解AI的局限性非常关键，比如AI破解不了很多加密技术，因为这些加密技术是科学家专门设计的，能抵御所有经典计算机的攻击，只要我们有坚实的数学基础，就能让它同样抵御AI的攻击。这种边界认知对我们做AI安全工作非常重要。

但更令人兴奋的探索还在前面，我尤其看好AI for Science、量子AI、可靠的大模型系统这几个方向，还有"Mathematics for AI（数学赋能AI）"，这和物理赋能AI一样，数学也是未来AI能力增强的重要支撑。当然还有AI安全，以及"AI for AI"，用AI来改进AI本身，这会帮助我们更深入地理解智能的本质。

提问环节

主持人：接下来是我们和姚院士的交流时间。姚教授，我有个问题：人工智能是否存在某些局限，是人类智能所没有的？

姚期智：你的问题是，AI的局限和人类智能的局限是一样的吗？我们知道人类智能也是有局限的，比如我们解不出那些极难的问题，哥德尔不完备定理（1931年由数学家库尔特·哥德尔提出的逻辑学定理，揭示了数学形式系统无法同时满足完备性和一致性）告诉我们，在数学构造的世界里，存在一些真理是我们永远无法证明的。但另一方面，我们之前也聊过，世界不只是数学世界，还有物理宇宙，如果你能从物理世界获取更多信息，那么对应的"等价问题"会是什么样，这就不一样了。

主持人：接下来是现场观众的问题。你之前说未来5—10年，AI会从工具变成队友。刚才你谈AI for Science的时候也提到，它已经不只是工具了，在研究里扮演着很重要的角色。所以问题有两个：第一，在AI时代做研究，我们要改变过去的哪些研究习惯？第二，如果很多研究工作都能被AI替代，青年科学工作者还能做什么？

姚期智：第一个问题，怎么用AI，其实和你所在的领域高度相关。有些行业，按AI现在的能力已经几乎能取代人类了，那你没必要挣扎。但不管你在哪个行业，对待AI最核心的认知是，你要衡量在这个领域里，哪些工作是AI做不到的，然后去充实自己在这方面的能力。

主持人：根据你的观察，哪些工作是AI暂时替代不了的？

姚期智：举个例子，至少在可见的未来，AI替代不了像我这样的人，或者像范·霍文这样的人——你们觉得我举的例子要求太高了？至于AI能不能达到这个程度，现在不好说，但如果给它30年，说不定可以。

我们拿大家马上能用到的场景举例，那就是写代码。这向来是一份体面的工作，需要一定的技能。但过去一两年里，AI写代码的能力越来越强，以后到底还有多少层级的系统开发工作需要人工完成，边界在哪里，真的不好说。但可以断言的是，比较初级的编码工作以后肯定会消失。其实美国那边已经能看到这个趋势了，谷歌、苹果这些公司最近一波一波裁员，嘴上说是组织重构，本质上是AI能力提升，他们可以优化整个工作流程了。这种现象未来会出现在每个职业里，哪怕是做研究的，未来两三年就会面临翻天覆地的变化。到时候，你的能力不再是传统的"掌握基础知识+独立思考"，而是"你+你用的AI工具"组成的团队的能力，你的竞争对象是别的团队，而不是你个人。你可能是带着一个学生加一堆机器，也可能是教授带着团队加一堆机器，整个模式会变成团队协作。

不过在这个过程中，人的关系依然非常重要，因为至少可见的未来，AI还没有能力产生特别抽象的观念。最优秀的科学家解决问题时，看到现象后能抽象问题、创造新概念，这方面AI现在还做得不够好。所以你刚才问人要提升什么能力，就是要学会看到事情背后的逻辑，能把核心问题提炼出来。

主持人：不同学者对AI"幻觉"的定义和看法不一样，有人认为幻觉代表机器有创造力，也有人觉得幻觉是AI的缺陷，你怎么看？

姚期智：从我的感受来说，我们评价AI的时候，不要把它过度理想化。你想要它做有创造力的事，就得拿人来比，但人也会有幻觉，很多艺术家都有幻觉，在"胡说八道"和"一本正经的创造"之间的边界，本来就很难区分，所以不用对AI的幻觉太紧张。

本质上，不要把现在的AI当成完美的计算机，要把它当成合作伙伴，合作伙伴也会犯错，机器当然也会出错，你需要做的是有办法过滤这些错误。这其实就是未来人和AI相处的态度：尊重它，把它当成一个平等的伙伴，同时也要警惕它的错误。

但人和机器的关系不是我的专业领域，这是社会学家、哲学家、伦理学家关心的事。如果和机器走得太近，确实会有问题，如果你完全崇拜机器，就会失去自我。

主持人：你和机器打交道这么久，你会崇拜机器吗？

姚期智：我经常被它吓到。看到它最近能解决那么多深层次的问题，你会觉得它好像真的有思想。

主持人：当你被它吓到的时候，有没有想过一个哲学问题：我自己造出了一个把我吓倒的对象，你会从此收手吗？

姚期智：不会。这其实是科学家的态度，你听到别人做出了很棒的成果，一开始可能会被震撼到，但你的态度应该是拥抱它、欣赏它的美，然后向它学习。我们对机器也应该有这种平常心。

主持人：接下来这个问题来自一位本科生，他立志从事AI研究，问本科期间应该培养什么样的思维习惯、学术品格，才能在未来提出好的问题，像你说的那样抽象出核心逻辑，做好研究。你在姚班有多年的经验，能不能给年轻人一些建议？

姚期智：学术品格最核心的一点就是"真"，不能造假，不要逃避，要直面问题，要做好训练，把物理、数学、计算机的基础打牢。这类学科特别注重底层逻辑，尤其是物理学，你能看到科学里最深奥、最完善的逻辑，知道什么样的工作是真正的好工作。

除此之外，我觉得人不能完全剥离人性，还是要有一点艺术修养，读一点名人传记，会欣赏音乐。我给年轻人最真诚的建议是，现在大家温饱都没问题了，好好工作，未来衣食不愁，人最难得的其实是获得内心的喜悦，就像小时候第一次拿到父母给的巧克力、看到小玩具、摸到小猫的那种喜悦。长大后做科学家，证明了一个定理、发现了一个新现象，心里的那种成就感，不是为了别的，就是纯粹的喜悦。怎么保持这份天性，是很重要也很难的事。我一辈子在学校里，比较容易保持，但在普通工作岗位上确实不容易，但一定要记得提醒自己：人生到最后，你的成绩单上写的，是你经历过多少这样的喜悦，感受到多少快乐。

主持人：如果他说，我在实验室感到的快乐，不如出去创业开公司感到的快乐，怎么办？

姚期智：非常好啊！这个世界需要各式各样的人，不仅能让社会更富足，也能让世界更有趣。

主持人：最后的问题分两部分，第一，你预测的量子AI时代什么时候能真正到来？第二，如果真的到来了，会给世界带来怎样的变化？

姚期智：其实现在已经开始了。看量子计算机这40年的发展，我们已经处在起步阶段了。至于什么时候能有大的突破，就像AI的突破，完全超出了专家的预料，量子AI也一样，很难精准预测时间点。

主持人：如果它真的突破了，最可能带来的巨大改变是什么？

姚期智：有一点是肯定会发生的，就是费曼当初提出量子计算机的原因：整个物理世界是由量子力学历经决定的，经典物理的规律我们用普通电子计算机就能很好地模拟，所以不管是设计大飞机还是解决各类经典物理问题，计算机模拟都够用了。但量子力学的规律，用普通计算机是模拟不了的，可能算几千年几万年都算不出来。但费曼说，如果你造出了量子计算机，原则上就能求解量子力学的方程。

这意味着很多我们现在做不到的事会变得可能，比如现在大家都在找常温超导材料，我们虽然有公式，但没法验证它。有了量子计算机，这些都不是问题。所以一旦量子计算机发展到和普通经典计算机一样的普及程度，它在新材料研发、药物研发等领域，就能从第一性原理出发，给出最正确、最优的思路。

现在AI也在做这些事，但它不是从第一性原理出发，更像是在"猜"。它看到某些特性，推测如果是AI问题该怎么处理，现在很多药物筛选的结果已经非常惊人，我看了都觉得不可思议，怎么会随便试就能达到这么好的效果？但量子计算机的好处是，它不仅比现在的AI做得更好，而且有严格的边界，因为它是从第一性原理来的。到那时候，我们真的能实现爱因斯坦那代科学家的梦想。

主持人：最后问个简单直接的问题：面对这个扑面而来的时代，我们都准备好了吗？是准备好了，还是没准备好？

姚期智：我觉得准备好了。

 —— · END · —— 

重磅推出：

华夏基石管理咨询集团

中国管理咨询的开拓者和领先者

彭剑锋、黄卫伟、包政、吴春波、杨杜、孙健敏领衔

战略丨营销丨研发丨生产丨运营丨品牌

企业文化丨组织人力丨AI应用

为了便于您收到最新推送，敬请星标本公众号，合作、投稿：hanyong896。