谷歌联合创始人布林:巨头们打造的“上帝模型”几乎可以理解一切,而模型和架构应该共享
谷歌联合创始人Sergey Brin接受ALL-IN SUMMIT专访
★
-
在大多数情况下,它还没有达到足以让它在日常生活中发挥作用的稳健性水平。
-
我们参加的国际数学奥林匹克竞赛,我们作为一个人工智能获得了银牌,实际上离金牌只有一步之遥。但我们实际上在那里使用了三种不同的人工智能模型。有一个非常正式的定理证明模型,它的表现实际上是最好的。信不信由你,有一个专门针对几何问题的模型。那只是一种特殊的人工智能。然后是一个通用的语言模型。
-
看到这些通用的语言模型现在多么强大,例如,它们包括视觉、图像和多模态,它们可以理解场景和一切。而在当时却没有这些,是的,感觉就像你在一个没有现代技术就无法到达任何地方的跑步机上。
-
但我确实认为趋势是拥有更多……更统一的模型。我不知道我是否会称之为上帝模型。但要确保某种程度上共享架构,最终甚至共享模型……
Sergey Brin 是一位俄裔美国计算机科学家和企业家,他于 1998 年与 Larry Page 共同创立了谷歌。Brin 于 1973 年 8 月 21 日出生于俄罗斯莫斯科,六岁时随家人移居美国。他在马里兰州长大,后来就读于马里兰大学帕克分校,并获得了计算机科学学士学位。
Brin 从小就对计算机科学产生了浓厚的兴趣,并且以其卓越的解决问题的能力而闻名。后来,他就读于斯坦福大学,在那里遇到了 Larry Page,两人成为了朋友。他们开始着手一个搜索引擎项目,该项目最终发展成为谷歌。
Brin 对谷歌的贡献非常大。他与 Larry Page 共同开发了 PageRank 算法,该算法是谷歌搜索引擎的基础。他还对谷歌广告模式的开发发挥了关键作用,该模式彻底改变了在线广告的运作方式。Brin 的企业家精神和创新思维帮助谷歌发展成为世界上最成功的公司之一。
据估计,Brin 的净资产超过 800 亿美元,这使他成为世界上最富有的人之一。他获得了无数奖项和荣誉,包括马可尼奖和国家技术与创新奖章。Brin 还参与了各种慈善事业,包括 Sergey Brin 家族基金会,该基金会致力于帕金森氏症的研究、环境和其他事业。
纵观他的职业生涯,Brin 一直以其对创新的热情、敢于冒险的精神以及致力于通过技术让世界变得更美好的承诺而闻名。他作为谷歌联合创始人和计算机科学领域先驱者的遗产可能会继续激励未来几代创新者和企业家。
主持人: 谢谢你。很高兴你能来。我们要聊一会儿。这不在计划之内。但我想,鉴于你在世界上的地位,以及人工智能正处于改变世界的边缘并正在积极地改变世界,和你谈谈会很棒。显然,你知道,你在 1998 年与 Larry 共同创立了谷歌。而且,你知道,最近有报道称你在谷歌花了很多时间研究人工智能,我想,也许很多行业分析师和专家一直在争论,LLM 和对话式人工智能工具对谷歌搜索构成了生存威胁。这是其中之一,我认为很多人都没有创过业,或者他们有竞争性的投资。但我们先不说这些。
但现在有一个问题是,谷歌将会发生什么,谷歌在人工智能领域处于什么位置。我知道你在这方面花了很多时间。所以谢谢你今天来谈论这个话题。你在谷歌花了多少时间?你在做什么?
布林: 是的,老实说,几乎每天都是。我的意思是,就像我今天错过了,你知道,这是我有点犹豫的原因之一,但我很高兴我来了。但我认为,作为一名计算机科学家,我从来没有见过像过去几年人工智能取得的所有进展那样令人兴奋的事情。谢谢。不,这太不可思议了。当我 90 年代上研究生时,人工智能在课程中几乎就像一个脚注。就像,哦,也许你必须做这一个小小的关于人工智能的测试。我们尝试了所有这些不同的方法。它们并没有真正起作用。就是这样。这就是你需要知道的全部内容。
然后不知何故,奇迹般地,所有这些致力于神经网络的人,而神经网络是人工智能领域被抛弃的主要方法之一。在 60 年代、70 年代等等,才开始取得进展。多一点计算量,多一点数据,一些聪明的算法。在过去十年左右的时间里发生的事情,作为一名计算机科学家,我感到非常惊讶。就像每个月,你知道,好吧,你们所有人,我相信,都在使用所有的人工智能工具。但就像每个月,都会出现一种令人惊叹的新功能。我想,可能,你知道,哇,其他人也知道计算机可以做到这一点吗?
是的,对我来说,我真的重新开始从事技术工作了,因为我不想错过这个机会,作为一个计算机科学家。
主持人: 它是搜索的延伸,还是人们检索信息方式的改写?
布林: 我的意思是,我认为人工智能触及了日常生活的方方面面,当然,搜索只是其中之一。但它几乎涵盖了一切。例如,编程本身。就像,我现在对它的看法就很不一样了。你知道,与要求人工智能来做相比,从头开始编写代码感觉真的很困难。
布林: 实际上,我自己写了一点代码,只是为了好玩,只是为了好玩。然后有时我会让人工智能帮我写代码,这很有趣。举个例子。我想看看我们的人工智能模型在数独方面有多厉害。所以我让人工智能模型自己编写了一堆代码,这些代码可以自动生成数独谜题,然后将它们输入到人工智能本身,然后对其进行评分等等。但它可以编写代码,我和工程师们讨论过这个问题,等等,我们来回争论了一番。就像我半个小时后回来,它就完成了。他们有点印象深刻,因为说实话,他们并没有像我认为的那样,在自己的编码中使用人工智能工具。
主持人:这是一个有趣的例子,因为可能存在一个非常擅长数独的模型。也许存在一个可以回答我关于世界事实信息问题的模型。也许存在一个设计房屋的 AI 模型。很多人都在朝着这些庞大的通用 LLM(大型语言模型)努力。世界会朝着这个方向发展吗?我想有些人说是这样的,我不记得最近是谁写的了,说会有一个上帝模型,就像会有一个上帝模型一样,这就是为什么每个人都在投入如此之多,因为如果你能构建上帝模型,你就成功了。你已经拥有了你的 AGI(通用人工智能)或你想使用的任何术语。有这样一种东西可以统治一切。或者,人工智能的现实情况是,有很多更小的模型可以完成特定于应用程序的事情,也许可以像在代理系统中那样协同工作。模型开发的演变以及如何最终使用模型来完成所有这些很酷的事情是什么样的?
布林:是的,我的意思是,如果你回顾 10 年、15 年前,就会发现用于不同问题的 AI 技术完全不同。比如,你知道,国际象棋 AI 与图像生成非常不同,而图像生成又与……
主持人:就像最近在谷歌,图神经网络的表现超过了所有物理预测模型。
布林:但它是一个完全不同的架构。这是一个不同的系统。它的训练方式不同,最终落在了那个特定的……所以从历史上看,一直存在不同的系统。即使是最近,比如我们参加的国际数学奥林匹克竞赛,我们作为一个人工智能获得了银牌,实际上离金牌只有一步之遥。但我们实际上在那里使用了三种不同的人工智能模型。有一个非常正式的定理证明模型,它的表现实际上是最好的。信不信由你,有一个专门针对几何问题的模型。那只是一种特殊的人工智能。然后是一个通用的语言模型。但从那时起,我们就试图从中吸取教训。那只是几个月前的事了。并试图将形式证明器的一些知识和能力融入到我们的一般语言模型中。这仍在进行中。但我确实认为趋势是拥有更多……更统一的模型。我不知道我是否会称之为上帝模型。但要确保某种程度上共享架构,最终甚至共享模型……
主持人:所以,如果这是真的,你需要大量的计算来训练和开发那个模型,那个大模型。
布林:是的,是的。我的意思是,你肯定需要大量的计算。我想,我已经读过一些文章,就像,你知道,外推。它们就像,你知道,100 兆瓦、1 吉瓦、10 吉瓦和 100 吉瓦。我不知道我是否完全相信,你知道,这种程度的外推,部分原因是过去几年出现的算法改进实际上可能甚至超过了投入到这些模型中的计算量的增加。
主持人:那么,正在进行的扩建,每个人都在谈论的 NVIDIA 收入、NVIDIA 利润、NVIDIA 市值,支持人们所说的超大规模企业以及构建这些超大规模模型所需的基础设施的增长,使用今天的技术,这些都是非理性的吗?这是非理性的还是理性的?
布林:我认为,我知道对我们来说,我们正在尽可能快地扩建计算能力,而且我们的需求量巨大。我的意思是,例如,我们的云客户只想要大量的 TPU、GPU,应有尽有。我们不得不拒绝客户,因为我们没有可用的计算资源。我们在内部使用它来训练我们自己的模型,为我们自己的模型提供服务,等等。所以我猜,我认为公司目前正在快速扩建计算能力是有充分理由的。我只是不知道……我会根据训练趋势,从我们今天的水平盲目地外推三个数量级。
布林:在那里?你知道,我的意思是,他们想做很多其他的事情,例如,对所有这些人工智能模型运行推理,将它们应用到所有这些新的应用程序中。是的,现在似乎没有限制。
主持人:你在哪里看到了模型应用的最大成功,令人惊讶的成功,无论是在机器人技术还是生物学领域?你看到了什么让你觉得,哇,这真的很有效?在哪些方面会更具挑战性,并且比我认为的一些人预期的要长?
布林:是的,我的意思是,既然你提到了这些。好吧,我想说在生物学领域,你知道,我们已经有了 AlphaFold 很长一段时间了。我个人不是生物学家,但当我与那里的生物学家交谈时,就像,每个人都在使用它。还有它最近的变体。我想,那是一种不同的人工智能。但就像我说的,我确实认为所有这些东西都趋于融合。你知道,在很大程度上,我认为机器人技术处于这种令人惊叹的阶段。就像,哇,你可以让机器人用,你知道,这种通用的语言模型,或者只是稍微调整一下,来做到这一点。
这很棒,但在大多数情况下,它还没有达到足以让它在日常生活中发挥作用的稳健性水平。
布林:嗯,是的,是的,我的意思是,这将是,我看不到任何特别的……
布林:是的,不幸的是,我不知道,我想,是的,我认为那只是有点太早了,说实话。我的意思是,有像波士顿动力公司,它叫什么来着?Start,Stamp,我都不记得我们有过的所有那些了。不管怎么说,我们已经有过五六家了,真是尴尬。但它们非常酷。它们令人印象非常深刻。是的,做了那么多工作却感觉有点傻。
看到这些通用的语言模型现在多么强大,例如,它们包括视觉、图像和多模态,它们可以理解场景和一切。而在当时却没有这些,是的,感觉就像你在一个没有现代技术就无法到达任何地方的跑步机上。
主持人: AI 技术。你在核心技术上投入了很多时间。你是否也花了很多时间在产品愿景上?未来会是什么样子?在人工智能无处不在的世界里,人机交互方式将会是什么样子?
布林: 比如,我们的生活会变成什么样?我的意思是,我猜大家会在茶水间闲聊这些事情。
布林: 我在努力想一些不会让人尴尬的事情。很挣扎。我觉得真的很难预测,去想五年后的事情,因为人工智能的应用是由其基本技术能力决定的。有时,会有人突然做出一个你从未想过的演示。
它会让你大吃一惊。是的。当然,从演示到真正实现它、投入生产等等都需要时间。我不知道你是否玩过 Astra 模型,它有点像实时视频和音频,你可以和 AI 聊天,聊聊你周围的环境。
布林: 会的,等我拿到权限。我的意思是,我有时是这些东西中最慢拿到权限的人。但它,是的,会有让你惊叹的时刻。你会想,哦,我的天哪,这太神奇了。然后你会想,好吧,它在 90% 的情况下都能正确运行。但我真的,那就值得吗?如果有 10% 的情况下,它会犯错,或者反应太慢,或者其他什么问题。
然后你就得不停地工作,工作,工作,去完善所有这些东西,让它反应灵敏,让它可用,等等。然后你最终会得到一些非常棒的东西。
主持人: 我听说一个故事,说你去现场,我应该在你上台之前告诉你这件事,看看你是否冷静
主持人: 当时的情况是,我们还没有把它放到 Gemini 中,因为我们想确保它不会出错。谷歌在文化上对这样做有些犹豫。而你说,不,如果它能写代码,就上吧。很多人都跟我说过这件事,因为他们说,或者我听说,从你这位创始人那里听到这些话真的很重要,你要明确表示,谷歌的保守作风不能再统治今天了。我们需要看到谷歌突破极限。这样说准确吗?你是否花了一些时间来做这件事,或者?
布林: 说实话,我不记得具体的情况了。但我并不感到惊讶。
主持人: 我的意思是,我的问题是,随着谷歌变得如此庞大,它要失去的东西也更多了。
布林: 我认为,是的,我认为有一点恐惧,我的意思是,语言模型一开始就是这样。基本上,我们是在六、八年前发明了它们,也就是那篇关于 Transformer 的论文发表的时候。哦,对了,Noam 现在回到了谷歌,这真是太棒了。是的,我们当时太胆小了,不敢部署它们。你知道,有很多合理的理由,比如,它们会犯错,它们会说一些让人尴尬的话,等等。你知道,它们,你知道,有时它们愚蠢的样子真的很尴尬。即使是今天最新的、最先进的东西,也会犯一些人们永远不会犯的愚蠢错误。与此同时,
它们的功能非常强大,可以帮助你完成你以前从未想过的事情。你知道,我和我的孩子们一起编写过非常复杂的程序。比如,他们会直接用 AI 编程,因为它会调用所有这些非常复杂的 API 和各种各样需要花一个月时间才能学会的东西。所以我认为这种能力是神奇的。你必须愿意接受一些尴尬,承担一些风险。我认为我们在这方面已经做得更好了。而且,你们可能已经看到了一些让我们尴尬的事情。
主持人: 我的意思是,你拥有超级投票权。你仍然,我的意思是,在这个阶段你对这些尴尬的事情感到坦然,因为做这件事太重要了。
布林: 我的意思是,并不是因为我的股票。但我是否感到坦然?我的意思是,我只是认为这是我们给予世界的 magical 的东西。我认为,只要我们把它传达清楚,比如,说,看,这东西很棒,但我们偶尔也会犯错,那么我认为我们就应该把它拿出来,让人们去尝试,看看他们会找到什么新的使用方法。我只是认为,这项技术不应该藏着掖着,直到它变得完美无缺。
主持人: 你是否认为,人工智能可以影响世界的领域太多了,可以创造的价值也太多了,所以这并不是谷歌、Meta 和亚马逊之间的竞争?人们把这些事情说成是一种竞争。是否有太多价值需要创造,以至于你们正在研究许多不同的机会,而这实际上与谁构建了得分最高的模型,或者说得分最高的 LLM 无关,因为它还有更多的东西?我的意思是,你是如何看待外部世界以及谷歌在其中的地位的?
布林: 我不是说,不是自夸,但,你知道,我们已经走了很远,从,你知道,几年前,不管怎么说,当 ChatGPT 推出的时候,我们落后了很多。我对我们取得的所有进展感到非常高兴。所以我们肯定会关注。我的意思是,我认为有这么多人工智能公司出现是件好事,无论是我们,OpenAI,Anthropic,等等。还有 Mistral。我的意思是,这是一个庞大且发展迅速的领域。但我猜你的问题是,是的,我认为这对人类有巨大的价值。我想,如果你回想一下,你知道,比如我上大学的时候。那时候还没有真正意义上的互联网,或者说像我们今天所知的网络。比如,获取基本信息需要付出多少努力,与人交流需要付出多少努力,你知道,在手机和其他东西出现之前。比如,我们在全世界范围内获得了如此强大的能力。但这种新的人工智能是另一种强大的能力。世界上几乎每个人都可以使用它。我认为这非常令人兴奋。
主持人: 太棒了。很抱歉我们的时间这么有限。Sergey,非常感谢你参加我们的节目。请大家和我一起感谢 Sergey。谢谢。
参考资料:https://www.youtube.com/watch?v=XzK9bx3CSPE
来源:瓜哥AI新知
声明:此公号(ID:czfida)发布内容和图片的目的在于传播更多信息,版权归原作者所有,不为商业用途,如有侵犯,敬请作者与我们联系。
首页标题
ꄲ
产业动态
ꄲ
谷歌联合创始人布林:巨头们打造的“上帝模型”几乎可以理解一切,而模型和架构应该共享