中国工程院院士郑南宁：《智能跃迁：从模型驱动到意图驱动》

大家下午好！非常高兴今天有机会和在座的各位来讨论“智能跃迁”这一话题。

如果说从时间维度上来看，人工智能大致可以分为四个阶段：

• 从上世纪的60年代开始，我们是把规则和领域知识交给机器去搜索；

• 从上世纪80年代至2000年左右，我们是将人工设计的特征和标注交给机器学习；

• 那么2000年之后，我们只要把原始的数据和标注交给机器进行深度学习，特别是2004年辛顿和他的学生发明了深度学习模型。这一发明成为我们当今人工智能发展的重要基石；

• 而当前是从模型驱动走向了意图驱动，所谓意图驱动智能，就是人类只要把目标交给机器，机器就可以主动地进行任务分解，进而产生适应性的行为。意图驱动标志着智能从工具理性迈向了目的理性的这样一种跨越。

我们可以这样来定义模型驱动智能：它以显示构建的数学模型、物理模型或知识模型为核心，实现机器的推理、决策以及行为生成的AI范式。特别是近十年以来，随着深度学习的发展，这一范式已经泛化为“凡是通过大量训练数据来学习输入-输出映射的系统”，比如说ResNet、AlphaGo，还有BERT、GPT这些现代的架构，极大地推动了我们当前模型驱动智能的发展。

模型驱动智能的基本的内涵是什么呢？它的基本的技术形态：

• 深度学习，它是采用一种端到端的训练机制，通过大量数据的预训练来得到任务模型的参数，不需要人类进行人工设计模型，它是由机器通过数据的学习来产生自身的模型；

• 此外还有大参数与大模型的规模增长，那么在一定规模与参数的范围内，更大的模型通常都能带来更强的计算和推理的能力；

• 当今基础模型已经成为人工智能平台发展的一种生态，特别是transformer架构给我们带来了充满着一种想象和可能的技术发展的空间。

但是模型驱动的智能的这样一种局限依然是存在的。这里我们只是谈一谈大模型的困境。

首先，它表现为一种幻觉。也就是说当模型能力在不断的扩展的时候，其幻觉现象已经成为制约大模型的可靠性以及实用性的关键问题之一。所谓幻觉，也就是说它在缺乏事实支撑或者逻辑校验的情况下，生成出语义连贯、但事实是错误的或者虚构的信息。特别是它不仅仅存在在细节性的误报，它更可能在多轮对话、复杂任务的规划中造成系统性的误导。

幻觉的成因在哪里呢？是在于当前大模型本质上依然是以统计相关性的驱动语言生成，它缺乏对世界知识的结构化表征以及因果推理能力，他无法对生成内容进行验证、纠错或自我否定，难以实现真正的认知跃迁。

幻觉的危害：因此幻觉不仅仅直接威胁着我们决策的安全，还引发着关于伦理的责任以及社会信任的重大挑战。

这是现有的智能范式存在的知识约束，或者说因果逻辑价值引导机制下的深层次的问题。因此我们需要引入因果建模与事实校验的机制，来建立语言生成与知识验证的闭环，强化多模态对齐与世界模型的连通，来提升认知的一致性，来推动从“生成能力”向“认知能力”的转型。

下面我们再来谈谈模型驱动智能的边界。尽管近十年来，人工智能取得了令人难以想象的巨大进步，但是它又反映出另外一个问题，大模型的能力的提升日益呈现出边际效应递减。正如我前面所谈到的，大模型是依赖统计关联进行推理，它缺乏因果建模与结构化理解的机制。因此，它不具备真正的意图建模或者任务的构造，以及自我解释能力，它难以实现真正的认知跃迁。

我们当前的人工智能发展为了提高性能而所采取的主要的路径，依然是扩大参数以及数据的规模，甚至有的时候需要多个大模型的协同训练与融合部署。但是这一技术、路径加剧了推理机制薄弱以及资源消耗过高的结构性矛盾。

实际上，我们可以把大模型看作一种极限模型驱动智能。实际上尽管我前面谈到它的一些幻觉或者它存在着规模以及边际效应这样一对悖论，但是大模型实际上是我们人工智能从模型驱动迈向意图驱动的一个拐点。

为了对意图驱动智能有一个更深入的理解，我谈谈智能的本质。

我们传统的理解认为，智能它就是一类信息处理的流水线，也就是说，信息处理的高效的转化。

但是如果我们从人工智能这个更本质角度去理解它，那么它就是信息处理与目标性的协同，还有受价值调制的约束。智能是一种具身化的意向性系统，它通过语境中受价值约束的信息处理来达到适应性目标，并且递归地修正自身目的。即意图与信息处理形成一个闭环，在这个闭环中，它就可以自身进行验证。

如果我们用一种数理表达，给出这样一个函数f（表征，推理，学习，意图/价值权重），这个函数里边的变量有表征、有推理、有学习，特别是意图和价值权重的表示。用这样一种表征来构成一个智能的闭环。因此我们讲没有意图的智能是无源之水。只有意图才能够使智能活动具有方向与价值。

我们再来看看意图驱动智能核心的机制在哪里？前面我谈到意图驱动智能就是要把信息处理和我们的目标性乃至于价值的调制整合起来。

• 因此，首先要解决的就是意图驱动信息的采集。它要能够主动识别，理解其他智能体乃至人类的意图；

• 在价值调制下的信息处理要基于语义的理解以及规则的引擎，和对原始数据进行语境化的加工；

• 还有一点更为重要的是闭环反馈来强化意图的实现，也就是说输出结果反向校准系统的行为，并且形成持续优化的回路来持续增强系统的语义认知、交互协同环境的适应性能力，最终实现价值对齐与行为的可控。

我在这在这里再把意图驱动智能的内核再做一个简单的讨论。

实际上，意图驱动智能必须要突破现有的AI系统的计算封闭性。通过整合来自语言理解、图神经网络、强化学习、记忆建模与知识表示等关键技术，构成其基础的技术支撑。同时要在目标意识、上下文理解、任务生成与规划、因果与解释性能力、基础性与交互性来实现一种闭环：

• 所谓的目标意识，也就是说，系统它能够理解目标，并且能够推演出按照这个目标所达到的目的。上下文理解呢？除了能够理解人类给他的指令，还要把环境、历史、人类的行为纳入到推理进程之中。

• 还有任务的生成与规划，不是简单的响应输入，而是主动制定路径。

• 在因果与解释性能力方面，它不仅仅要回答是什么，还要回答为什么。

• 还有自主性与交互性，能够与人类和其他的智能体协同并交互。

• 实际上，这就是我们要实现意图驱动智能的基本内核。

下面为了讨论一下意图驱动智能在复杂环境中的任务，我先放一个短片。我们人类的演化就是在一个不断的追求梦想的进程中发展的。人工智能能够把我们人类几千年以来对这个宇宙的想象以及梦想得以实现。下面我就来谈谈在月面的多智能体协作，它是一个意图驱动智能的典型的应用。

在月面上环境非常恶劣，比如说光照变化剧烈、月面崎岖复杂、昼夜的温差大、大范围的快速移动、地球跟月球之间的通信延迟。怎么能够让一个智能体在月面上来进行作业，多个智能体能够按照人类交给它的任务，自动去分解任务并且进行协同，这是我们人工智能走向外空间面临的重大挑战。

意图驱动智能应用在这样一个月面的多智能体协作中，实际上，我们需要构造一种比喻、概念，意图价值的这样一个传播链，在这个传播链中来实现多模的感知、语义的理解、概念的生成与修正、意图的影射与分解、价值对齐。

这里为什么要谈到概念的学习和理解呢？因为我们从另外一个角度，学习的角度来讲，人类的智能是通过元概念的建立、概念的组合和新概念的创造来体现智能。

按照这个基本思路，我们构造了一个月面意图智能系统的基本框架，这个框架也可以应用在一些高风险、恶劣环境的智能系统构成的基础框架，比如说我们只要给月面机器人一条指令：采集含钛的样本。按照这样一个框架，它就自动把要求的任务分解成阶段的目标，在每一个阶段目标中、在这个系统中来构成一种闭环的表征和行为的控制。

这里有一个重要概念“语义锚定”，所谓语义锚定，是为概念生成与学习来提供一种可演化的知识；意图智能来驱动任务协同；同时价值对齐要保障责任边界。所谓价值对齐保障责任边界，是在这个系统中各个模块应当承担什么样的义务和责任。

因此概念生成在这里是提供初始抽象的骨架，概念学习是通过反馈不断修正与扩展，概念生成与学习使得意图的推理具备可解释性与自适应性。

下面我再简单谈谈意图驱动智能实现的跃迁需要满足的三个条件。

• 表征语言的突破，所谓表征语言的突破是要把数据和标签转化为一种目标与意图的表征；

• 因果推理机制的构建，它不是我们传统意义上的模式识别来构造一个拟合的函数，而是要进行任务的自动生成，并且在各个阶段目标上来形成一个反馈的因果推理；

• 此外，最重要的是学习架构的创新，也就是说它从一个单向的输出来变成一个交互的反馈。

解决这三个条件面临着三大问题。

• 如何构建具备通用任务建模的能力？

• 如何在开放环境中保持稳健性？

• 如何实现高效的人机协同与目标共享？这实际上是当前我们人工智能范式跃迁中要解决的三大问题。

最后我再来讨论一下这种智能范式的跃迁所带来的社会再构与安全治理。

前面我谈的智能跃迁是发生于技术体系的内部，但这种智能范式的跃迁重塑了我们社会的运行结构，而意图智能的崛起与认知转型将使人类迎来更深刻的科技革命与社会再构。

那这引来一个社会再构下所面临的问题，安全。AI正在展现出递归的自我改进的潜力，每代的智能体都推动着下一代的演进，一旦AI主导了架构设计以及训练流程，在训练的时候扮演主导的角色，其发展会加速演化，超出人类预测与控制的边界。这就是我们这次会议讨论的主题“安全治理”。

此外还有一个问题，就是我们人类的认知结构的转型，为什么要这样说呢？因为AI首次讲认知本身，把我们的大脑认知过程拉入了对象建模与重构的对象，技术深度的介入认知过程，这一转型体现在认知已经成为可共享、可协同构建的系统属性，而非人类独有的能力。

如何确保AI对人类监督者透明？随着AI能力的跃升，各国和企业界的技术竞赛日益激烈，加快部署虽然能带来一个时间段的战略优势，但也可能削弱系统的可解释性以及人类的监督能力。AI的发展正在重构我们人类社会的秩序与治理架构，因此，法律与监督体系面临着前所未有的挑战。我们人类如何来应对前所未有的挑战呢？

AI不仅重塑了外部世界，也使我们重新理解我们人类自身。未来社会一定会演化成一种人机混合的智能形态。在这一新的范式下，数据主权与全球智能秩序将共同构筑新的治理架构。

而且AI的发展的全球性趋势以及平台主导的集中格局正在加剧数据殖民以及智能不对称等结构性风险，特别是当前全球南方国家在数据获取、算力资源与治理能力方面处于相对的劣势。急需全球AI治理机制来推动数据主权的有效保障、资源的公平配置以及技术能力的普惠共享，以实现真正意义上的智能正义。

当前，我们面临着构建一种多维的合作体系，即共生文明。人工智能的安全与治理应当充分的体现人类命运共同体的文化多样性和历史传承，正如习近平总书记所强调的，人类是一个整体，地球是一个家园，任何人、任何国家都无法独善其身。人类应该和衷共济、和合共生，朝着构建人类命运共同体的方向不断迈进，共同创造美好的未来。AI不是结束，是面向未来的起点。我们唯有在创新中发展、在理解中治理、在共生中前行，才能够创造一个健康的、可持续发展的人类命运共同体的文明新阶段。

我的报告就到这里，谢谢大家。