图灵奖得主杨立昆最新访谈实录：大语言模型的局限、世界模型、开源、未来希望

来源：图灵人工智能

精

彩

观

点

自回归大语言模型并非通向“超人智能”的途径，它们尚不具备理解物理世界、持久记忆、逻辑推理和行动规划等“人类水平智能”的关键要素。

构建世界模型意味着让AI像人类一样观察世界并理解世界以何种方式演变，然后预测世界将如何随着可能的行动而演变。

要想拥有人工智能产业、拥有不带偏见的人工智能系统，唯一的办法就是拥有开源平台，在此基础上，任何团体都可以建立专门的系统。

人工智能系统不会成为一个与人类竞争的物种，因为它们没有主宰的欲望。人工智能可以让人类变得更加聪明。

自回归大语言模型是通向“超人智能”的途径吗？

Lex Fridman：你认为直观物理学、物理空间的常识推理、物理现实有什么特别之处，这对你来说是LLM无法跨越的鸿沟？

Yann LeCun：我们今天正在使用的LLM还无法做到真正的理解世界，这其中有很多原因，但最主要的原因是：LLM的训练方式是用一段缺失了部分文字的文本去训练一个神经网络来预测缺失的文字。事实上，LLM并不预测词语，而是生成字典中所有可能词语的概率分布，然后从概率分布中选择一个词放入文本序列的尾部，再用新生成的文本去预测下一个词，这就是所谓的自回归预测。但这种自回归的方式与人类的思维方式有很大的不同。人类大部分的思考和规划都是在更抽象的表征层面上进行的，换句话来说，如果输出的是语言（说出的话）而不是肌肉动作，人类会在给出答案之前先思考好答案。但是LLM不这样做，它们只是本能地一个接一个地输出文字，就像人类的某些下意识动作一样。

真正的世界模型如何运作？

Lex Fridman：在你看来，联合嵌入式预测架构将能够学习一些常识，就像猫用来预测如何通过打翻东西来捉弄它的主人一样？

Yann LeCun：希望如此。事实上，JEPA使用的是“非对比”技术，其架构和学习程序都是非对比性的，技术涵盖基于蒸馏的BYOL、vcREG、I-JEPA（Image-JEPA）和DINO等方法（BYOL来自DeepMind，vcREG、I-JEPA和DINO来自FAIR）。这些方法的原理是：获取完整的输入，比如一张图片，通过编码器运行产生一个表征，然后对输入进行破坏或转换，再通过编码器运行，来训练预测器从损坏的输入中预测原始输入的表征。经过初步结果验证，似乎我们的系统现在可以通过表征来判断视频在物理约束上是否合理。

开源是打破AI偏见的钥匙？

点击进入合集，获取更多内容

Lex Fridman：你经常反击所谓的人工智能末日论者。你能解释一下他们的观点以及为什么你认为他们错了吗？

Yann LeCun：人工智能末日论者想象了各种灾难场景，如人工智能如何逃脱或控制所有人类，这依赖于一大堆假设，而这些假设大多是错误的。一个假设是超级智能的出现将是一个事件，在某个时刻，我们打开一台超级智能机器，它就会占领世界并控制人类，这是错误的。人工智能系统一定是渐进式发展的，我们将拥有像猫一样聪明的系统，它们具有人类智能的所有特征，但它们的智能水平可能是像猫或鹦鹉之类的；然后，我们再逐步提高它们的智能水平，并在让它们变得更聪明的同时，设置一些“护栏”，并学习如何设置“护栏”，让它们表现得更加正常。这不会是一次努力，会有很多不同的人在做这件事，其中一些人将会成功地制造出可控、安全、有正确防护措施的智能系统。如果有其他系统出了问题，我们就可以利用好的系统来对抗坏的系统。还有另一个假设是，因为系统是智能的，它就一定想接管世界，因为在自然界中，似乎更聪明的物种最终会统治其他物种，这是完全错误的。人工智能系统不会成为一个物种，更不会成为与人类竞争的物种，因为它们没有主宰的欲望，主宰的欲望必须是智能系统中固有的东西。

Lex Fridman：我真的很担心人工智能霸主会用企业语言对我们说话，而你却用你的存在方式来抵制它。你能谈谈如何避免过度恐惧，通过小心谨慎来避免伤害吗？

Yann LeCun：同样，我认为这个问题的答案是开源平台，然后让各种不同的人能够构建代表全球文化、观点、语言和价值体系的多样性的人工智能助理，这样就不会因为单个人工智能实体而被特定的思维方式洗脑。因此，我认为这对社会来说是一个非常重要的问题。在我看来，通过专有人工智能系统集中权力的危险比其他一切都要大得多。与此相反的是，有人认为出于安全考虑，我们应该把人工智能系统锁起来，因为把它交到每个人手里太危险了。这将导致一个非常糟糕的未来，即我们所有的信息都被少数拥有专有人工智能系统的公司所控制。

Lex Fridman：你对人类的未来抱有什么希望？我们正在讨论这么多令人兴奋的技术，这么多令人兴奋的可能性。展望未来，是什么给了你希望？如果你看看社交媒体，就会发现战争、分裂、仇恨正在发生，所有这些都是人性的一部分。但在这一切之中，是什么给了你希望？

Yann LeCun：我喜欢这个问题。我们可以通过人工智能让人类变得更加聪明。人工智能会放大人类的智慧，就好像每个人都将拥有一些智能人工智能助理，它们可能比我们更聪明，会听从我们的命令，还能以更高效、优质的方式执行任务，因此，每个人都会成为一群超级聪明的虚拟人的老板。因此，我们不应该对此感到威胁，就像我们不应该对成为一群人的管理者感到威胁一样，其中有些人比我们更聪明。本质上，人工智能助理的普及与印刷术的发明具有同等价值，它们都有利于信息和知识的交流及传播，从而使人类变得更加聪明。

Lex Fridman：我相信人性本善，因此如果人工智能，尤其是开源的人工智能可以使人类更聪明，那它只会增强人类的善良。

Yann LeCun：我也有同感。我认为人的本性是善良的，而事实上，很多末日论者之所以是末日论者，是因为他们不认为人的本性是善良的。

Lex Fridman：我想你和我都相信人性，我想代表很多人感谢你推动推动人工智能研究和开源，也感谢你在互联网上以如此丰富多彩、生动形象的方式表达你的想法。我希望你永远不要停止。你是我认识的最有趣的人之一，我是你的粉丝。所以，Yann，谢谢你再次和我对话，谢谢你做你自己。

Yann LeCun：谢谢你，Lex。