美港通证券 Hinton上海演讲：大模型跟人类智能很像，警惕养虎为患

深度学习之父、诺奖得主 Hinton 在中国的首次公开演讲美港通证券，实录来了！

演讲主题是《数字智能是否会取代生物智能》。

主要观点如下：

人类有可能就是大语言模型，人类也会和大语言模型一样有幻觉。

但大语言模型远远优于（类比信号驱动的）人类大脑。

人类将自己所学的知识永久保留很困难，比如大脑死亡之后，存储的知识相当于消失了；或者向外传递也很低效，比如知识只能通过说话等形式向外传递，不能完全 copy。

但是 AI 通过共享参数就能快速传递，比如使用蒸馏，DeepSeek 就是这么做的。

如果独立智能体完全共享一组权重，并以完全相同的方式使用这些权重，他们就能实现知识彼此传递，而且一次就是数十亿乃至数万亿比特的带宽。不过这要求所有智能体的运作方式必须完全一致。

人类和 AI 的现状，就好比养了一只非常可爱的小虎崽。当它长大后，可以轻易干掉你。为了生存，要么摆脱这只小虎崽，要么找到一种方法可以永远保护自己。

我们已经不可能消除 AI 了，它能使几乎每个行业大幅提效。哪怕有国家想要消除，其他国家也不会这么做。

所以，呼吁世界建立一个由各国人工智能安全研究所与国内研究网络组成的国际社群，培养出不会从人类手中夺权的好 AI。

这是 Hinton 第一次公开到访中国。对于 77 岁高龄且患有严重腰伤的老爷子而言，十几个小时的长途飞行无疑是一次巨大挑战——但 Hinton 之前对中国非常向往，他甚至有中国堂姑，知名的核物理学家寒春——琼 - 辛顿，是第一批获得中国绿卡的外国人。

不过 Hinton 这次来到上海，依然更多是关于 AI 安全的呼吁。

在 20 分钟的演讲，Hinton 以他独有的讲述方式，论述了 AI 与人类之间的复杂对立与共生关系。也一如既往先天下之忧而忧，呼吁全人类一起建立起正向引导 AI 发展的合理机制。

我们在不改变演讲原意的基础上，对全文进行实录整理，期待你能从中有所收获。

大语言模型确实理解它们所说的话

大家好，我是 Geoffrey Hinton，今天我要演讲的题目是《数字智能是否会取代生物智能》。

AI 已经有 60 年发展历史，它有两种不同发展范式。

一种是过去几十年中都占主导地位的逻辑型范式，意思是智能的本质是逻辑推理，我们利用一些符号规则、表达式进行操作来实现推理，这样能帮助我们更好表达知识。

另一种范式是以生物学作为基础进行理解，这也是图灵和冯 · 诺依曼所支持的观点。他们认为智能的基础在于理解和学习神经网络中的连接速度。在这个过程中美港通证券，理解是第一位的，只有在理解的基础上才能进行学习。

这两种范式相结合，一种是符号性 AI，重点在于研究数字和这些词之间的关系；心理学家是另外一种理论。

数字的意思其实是一系列语义学特征。在 1985 年时，我提出了一个非常小的模型，想把这两个理论结合在一起，去更好理解"人类是如何理解一个词的"，每一个词我都放了好几个不同的特征，然后把前一个词的特征记录下来，就能预测下一个词是什么、进而再预测再下一个词。

这个过程中我没有存储任何的句子，我生成句子、预测下一个词，像关联型的这些知识也是取决于不同的词的语义特征是如何互动的。

在此之后接下来 30 年发生了什么呢？

10 年之后，Yoshua Bengio 用这样的方式建模，把这种模式做得更加实时，等于成为了一个自然语言的真实模拟。

20 年之后，计算语言学家终于开始接受特征向量的嵌入来表达一个词的意思。

30 年之后，谷歌发明了 Transformer、OpenAI 展示了更进一步的能力。

所以今天的大语言模型，我把它视为当时那个微型语言模型（1985 年）的后代，它用更多的词作为输入、使用更多层神经元结构，因为需要有大量模糊不清的数字的使用，所以学习特征之间也建立了更加复杂的交互模式。

但是就像那些我做的小模型一样，大语言模型它也与人类去语言理解语言的方式是一样的，基本的理解就是把这些语言转化为一些特征，然后把这些特征以一种非常完美的方式整合在一起，这就是大语言模型里各个层次所做的事情。

所以我的理解是，大语言模型真正理解你是怎么理解问题的，它和人类理解语言的方式一样。

所以我在这里给大家打一个比方，什么叫理解一句话？符号型 AI 是将语言转化为一些不模糊的符号，但是人类实际不是这样理解。

我在这里打个比方，就好比乐高积木。通过乐高积木可以做成任何 3D 的一个物体，比如做成一个小车模型。把每一个词视为一个多维度的乐高积木，它可能有几千个不同的维度，那么这种乐高积木就可以建模成好多不同的内容，语言编程了一个建模，这些语言也能很好进行沟通，只需要给这些积木起一个很好的名字就行。

然后每一个乐高积木都代表一个词，当它们堆起来就不是有几个不同的差异了，我们有无数的词。乐高积木的造型是固定的，词的符号是基本固定的，但是也可以根据不同情况做调整。

不过乐高模型比较确定，一个格子插一个格子，但是语言不一样，语言相当于每一个词上都有好多个"首"，好比你想更好理解一个词的话，就是要让这个词和另一个词之间进行"握手"。如果一个词的造型变形，它和另一个词的"握手"方式就不一样了，这里就有个优化的定义，如果一个词发生变化那么怎么和下一个词连接，这也是人脑或者神经网络如何理解意思，这也有点像蛋白质之间的组合方式，氨基酸变换组合方式后就是不同的蛋白质。

人类大脑和大语言模型对语言的理解几乎是同一种方式，所以人类有可能就是大语言模型，人类也会和大语言模型一样存在幻觉。