萝莉 操 昔时六到八周，AI的投资逻辑发生了剧变！

从预西宾转向推理萝莉 操，东说念主工智能范围正在经历的一个要道调理，而这将颠覆AI投资逻辑。

近日， 在知名买卖博客节目Invest Like The Best中，Patrick O'Shaughnessy对谈了Benchmark普通结伴东说念主Chetan Puttagunta和基金司理Modest Proposal，就东说念主工智能模子刻下边临的膨胀挑战、开源模子的惊东说念主普及以及对一级和二级市集的投资影响等话题伸开究诘。

由于东说念主类文本数据的耗尽，大模子西宾转向使用由LLMs生成的合成数据，但这未能使预西宾不竭膨胀，导致AI大模子正在转向一个新的范式——从预西宾（pre-training）转向测试时谋略（test-time compute）。

Chetan先容说念，测试时谋略履行上是让大型讲话模子扫视问题，想出一系列可能的解决决策，并行鼓励多种解决决策，同期有一个叫作念考证器的东西，反复地对解决决策进行迭代处理。

从预西宾转向推理，对AI究竟意味着什么？这在昔时六到八周里，仍是更正了风投的投资逻辑。

从预西宾转向推理，究竟意味着什么？

Chetan 强调了测试时推理范式的两个要道挑战：首先，用于测试时谋略的算法可能很快就会耗尽解决决策的有用搜索空间；其次，考证器在分歧好的和坏的解决决策以及寻找最优旅途方面的才智，并不细目是否能跟着谋略力的无尽膨胀而线性增长。此外，任务自己的复杂性和无极性意味着限定身分可能不单是是谋略力。

尽管存在这些挑战，Chetan 对通过算法、数据、硬件和优化校正来解决这些问题握乐不雅派头。

Modest从微不雅层面分析了从预西宾转向推理时辰的几个瑕疵影响。其一，它能使收入生成与支拨更好地协调一致：

我认为这对于通盘行业来说是一个绝顶绝顶有益的末端，因为在预西宾范围，情况并非如斯。将过问 200 亿、300 亿、400 亿好意思元用于成本支拨，在 9 到 12 个月内西宾模子，进行西宾后的就业，然后将其推出，然后但愿通过推理从中得到收入。在测试时辰谋略膨胀的世界里，你现在正在使你的支拨与模子的底层使用情况相匹配。因此，就纯正的效力和财务方面的可膨胀性而言，对于超大限制企业来说，这要好得多。

Modest认为第二个瑕疵影响在于，但如果确乎看到了向推理时辰的调理，在麇集架构、芯片集群布局等方面，以及撑握投资世界很大一部分的诸多申诉，都需要进行从新想考：

需要启动想考如何从新设计麇集架构？是否需要在能源低成本的陆地上建立数百万个芯片超等集群，如故需要在世界范围内分散布局更小、更低延伸、更高效的推理时辰数据中心？而且当你从新设计麇集架构时，对电力愚弄率和电网设计的影响是什么？

我想说，撑握投资世界很大一部分的诸多申诉，我认为都得从新想考。而且我要说，由于这是一种相对较新的景象，如今公众市集尚未启动入部属手随意这种潜在的新架构是什么样式，以及它可能会如何影响一些潜在的支拨。

昔时的六到八周里，小模子更正风投想维

Chetan和Modest都不细目预西宾是否会回顾，但刻下的瓶颈意味着袖珍团队有契机在特定范围展现翻新。

Chetan不雅察到，在昔时的六到八周里，不停有袖珍团队（2-5东说念主）涌出，他们正在以相对较少的资金开发新模子，并在性能上与前沿模子竞争，这是昔时两年中未尝见到的景象。

Chetan指出，开源模子，特别是Meta的LLaMA系列，使得袖珍团队能够快速追逐技能前沿，无需多量投资。袖珍团队能够通过下载、部署和优化开源模子，以较低成本赶快达到技能前沿。由于不需要多量的谋略资源或数据，袖珍团队可以在特定范围快速展现翻新才智，赶快达到技能前沿。一朝袖珍团队达到技能前沿，他们可以与大型服务提供商（如AWS）建立协作关系。

在这一趋势下，GPU的限定也减少了。与2022年比拟，对于处于技能前沿的团队来说，GPU资源的限定已不再那么严重，尤其是在测试时推理和谋略方面。

这也带来了风险投资的调理，从一度规避成本密集型的大型模子西宾而专注于应用投资，转向启动关心更天真、成本效力更高的袖珍模子团队翻新。Chetan示意：

风险投资模式一直是能否组建一支杰出的团队，达成技能碎裂，作念到成本轻型化，赶快超越现存企业，然后以某种形式得到分销驻足点并鼓励。在昔时两年的模式层面，这似乎绝无可能达成。但在昔时的六、八周里，这种情况确乎发生了更正。

以下是部分对谈要点和精华：在测试时辰或推理表率中，有两件事很快就会突显出来。第一，大型讲话模子（LLMs）会绝顶赶快地探索潜在解决决策的空间，用于测试时辰谋略的算法可能会很快耗尽有用的解决决策搜索空间。第二点，存在一种被称为考证器的东西，它正在扫视哪些可能是好的解决决策，哪些可能是坏的解决决策，应该追求什么。

在微不雅层面上，从预西宾转向推理时辰有几个瑕疵影响。其一，它能使收入生成与支拨更好地协调一致。在测试时辰谋略膨胀的世界里，你现在正在使你的支拨与模子的底层使用情况相匹配。因此，就纯正的效力和财务方面的可膨胀性而言，对于超大限制企业来说，这要好得多。

第二个瑕疵影响在于，向推理时辰的调理需要启动想考如何从新设计麇集架构？是否需要在能源低成本的陆地上建立数百万个芯片超等集群，如故需要在世界范围内分散布局更小、更低延伸、更高效的推理时辰数据中心？而且当从新设计麇集架构时，对电力愚弄率和电网设计的影响是什么？在当下这个大模子平台期，小团队启动赶向前沿模子。只须两到五个东说念主的团队，能够以远低于大型实验室过问的资金，追逐前沿。部分原因在于开源模子的数目惊东说念主地激增。具体来说，Meta 在 LLaMA 方面的一坐一王人在这里产生了巨大的影响。你不需要多量的谋略资源，或者你不需要多量的数据，你就能够在特定的垂直范围、特定的技能或者特定的用例方面展现出特别的聪颖奢睿和翻新才智，从而绝顶赶快地跃升至前沿。我认为这在很大程度上更正了我个东说念主对模子层以及模子层潜在早期投资的看法。对于处于技能前沿的团队来说，他们不再特别受限于GPU资源，尤其是在追求测试时推理或谋略的情况下。与2022年比拟，谋略方面的挑战已不再那么严峻，特别是对于服务极少企业客户或针对特定用例优化的消费者解决决策的团队。到 2025 年，我们将绝顶接近或达到通用东说念主工智能的水平。鉴于刻下的进展和翻新，再加上现在转向测试时的谋略和推理，从这个角度来看，通用东说念主工智能行将到来。如果 OpenAI 弃取声称已达成通用东说念主工智能，我认为这将在他们和微软之间激发一种绝顶酷爱的动态，这将加重刻下仍是在阐发作用的、本就绝顶酷爱的动态。是以，这在来岁深信是值得关心的，不仅对公开市集的投资者而言是如斯，对更平常的生态系统的影响亦然如斯。六、九个月前人人都绝顶担忧的增量成本。但从第三季度的数据中得出的看法是，这里有应用场景。推理正在进行。技能正在阐发其应有的作用，推理的成本在骤降，愚弄率在飙升。把这两者蛊卦起来，你会得到一个不停增长的可不雅收入，一切都很好。在私东说念主市集中，正在发生的事情之一即是谋略价钱的急剧下降，岂论是推理如故西宾，或者其他什么，因为它变得越来越容易得到。如果你今天坐在这里，作为又名应用门径开发东说念主员，与两年前比拟，这些模子的推理成本下降了 100 倍、200 倍。坦率地说，这太离谱了。从未见过成本弧线看起来如斯笔陡、如斯之快。以下为对谈全文：

Patrick

今天我的嘉宾是Chetan Puttagunta和Modest Proposal。如果你像我一样千里醉于东说念主工智能前沿以及买卖和投资影响，那你一定会可爱这场对话。Chetan是基准成本Benchmark的普通结伴东说念主兼投资者，而Modest Proposal是一位匿名投资者，他在公开市集照顾着一大笔资金。两东说念主都是我的好一又友，亦然这个节目的常客，但这是他们第一次一王人出镜。

时机再好不外了。跟着顶尖实验室达到限制极限，并从预西宾转向测试时的谋略，我们可能正在见证东说念主工智能发展的一个要道调理。我们一王人探讨这一变化如何能够使东说念主工智能开发民主化，同期重塑大众和私东说念主市集的投阅历局。请享受与我的一又友Chetan Puttagunta和Modest Proposal的精彩究诘。

LLMs的近况极端限制

Patrick

那么，Chetan，偶然你可以先从你的角度跟我们讲讲，在对于大型讲话模子极端膨胀的故事中，在技能方面当下最酷爱的部分是什么。

Chetan

是的，我认为我们现在处于这样一个阶段，即东说念主们普遍认同或阐发，在昔时的两年里，通盘实验室在如何看待限制膨胀方面都碰到了某种趋于平定的效果，这特别是在预西宾范围。据限制膨胀的限定，在预西宾中，谋略才智增多得越多，得到的模子就越好。一切都以数目级来探究。是以，在这个问题上增多 10 倍的谋略才智，模子性能和智能就会有一个阶跃函数式的晋升。

这无疑在这里带来了令东说念主难以置信的碎裂，我们从通盘实验室看到的都是绝顶出色的模子。但这一切的暗影致使从2022年底启动，在某个时候，我们将耗尽由东说念主类生成的文本数据。

而且我们很快就要进入合成数据的世界了。世界上通盘的学问履行上都已被标识化，并被这些模子所继承。天然，存在小众数据、私东说念主数据以及通盘这些尚未被标识化的袖珍存储库，但就数目级而言，这不会对这些模子的可用数据量产生特别显赫的增多。

在 2022 年瞻望改日时，你们看到了合成数据是否能让这些模子不竭膨胀这个瑕疵问题。

正如你们看到的那条线，人人都认为这个问题会在 2024 年信得过突显出来。而现在我们就在这里，我们身处当下，大型模子供应商都在接力用合成数据进行西宾。而现在，正如媒体所报说念的，以及通盘这些东说念主工智能实验室的指点者都公开示意，由于合成数据，我们现在碰到了限定。

由大型讲话模子自身生成的合成数据无法使预西宾中的限制膨胀得以握续。因此，我们现在转向一种被称为测试时谋略的新表率。从绝顶基本的层面来说，测试时谋略即是你履行上让大型讲话模子扫视这个问题，想出一系列可能的解决决策，并并行鼓励多种解决决策。你创建了这个叫作念考证器的东西，反复地对解决决策进行迭代处理，而这种新的膨胀表率，可以说，在 X 轴上以对数刻度测量的时辰，以及在 Y 轴上的智能。

这即是我们如今的处境，似乎险些通盘东说念主都在迈向这样一个世界：在这个世界里，我们从基于预西宾和西宾的膨胀，发展到基于如今被称为推理的膨胀，或者说推理时辰、测试时辰，岂论你如何名称它。这即是限定 2024年第四季度我们的近况。

Patrick

这是一个对于合座情况的后续问题。那么，先把成本支拨以及我们稍后与大型大众科技公司究诘的通盘其他问题放在一边，基于你现在所了解的情况，能否说，转向以时辰为变量的测试时缩放，就像“谁在乎呢？”只须这些东西变得越来越坚定，这不即是最瑕疵的吗？而且我们是以一种不同于只是基于预西宾的形式来作念这件事的，这一事实又如何呢？简直有东说念主在乎吗？这瑕疵吗？

Chetan

在测试时辰或推理表率中，有两件事很快就会突显出来，那即是大型讲话模子（LLMs）会绝顶赶快地探索潜在解决决策的空间。作为模子开发者或从事模子就业的东说念主员，很快就会意志到，用于测试时辰谋略的算法可能会很快耗尽有用的解决决策搜索空间。这是第一丝。

第二点，存在一种被称为考证器的东西，它正在扫视哪些可能是好的解决决策，哪些可能是坏的解决决策，应该追求什么，以及能够辩别出哪些是好的解决决策，哪些是坏的解决决策，或者哪些是最好旅途，哪些不是最好旅途。目前尚不明晰这是否会跟着谋略才智的无尽增强而呈线性膨胀。临了，任务自己可能是复杂的、不解确的，而限定身分可能是谋略才智，也可能不是。

是以，想考这些问题老是绝顶酷爱的，就好像你有无尽的谋略才智来解决这个问题，你能否作念得更快？天然，在推理方面，深信会有一些问题，如果你只是扩大谋略限制就能作念得更快。但许多时候，我们启动看到字据标明，在我们目前领有的技能中，这不一定是能随谋略呈线性膨胀的东西。

现在我们能够解决通盘这些问题吗？天然，会有算法的校正，会有数据的校正，会有硬件的校正，这里会有多样种种的优化校正。我们仍在发现的是，用于推理的基础模子所领有的固有学问或可用数据仍然有限。只是因为你在追求测试时辰，并不料味着你就能通过在测试时辰扩大谋略限制来碎裂之前通盘的数据限定。

是以，这并不是说我们在推理方面碰到了用功，也不是说我们在测试时辰碰到了用功。这只是问题集、挑战以及谋略机科学问题启动演变。作为又名风险投资家，我绝顶乐不雅，信托我们能够解决通盘这些问题。但它们是可以解决的。

宏不雅视角

Patrick

那么，如果这即是有计划实验室的不雅点，Modest，我很好奇你能给我们讲讲大型大众科技公司的悲不雅看法，因为在这个话题上，许多内容都是对于支拨成本、计谋定位、所谓的通盘这些支拨的投资申诉率，以及他们将如安在这一多量成本支拨中获取申诉。你认为Chetan刚刚所说的一切都能很好地响应在大众科技公司的态度、订价和估值中吗？

Modest

我认为你必须从宏不雅层面启动，然后再深入到微不雅层面。为什么这很瑕疵呢？因为人人都知说念，如今在程序普尔 500 指数中，大型科技公司所占比例更大。但除此以外，我认为从主题上讲，东说念主工智能仍是更平常地渗入到工业、公用奇迹范围，而且我认为，作为对这一范围的径直投资，其市值占比在 40%到 45%之间。

而且，如果你致使将其膨胀到世界其他地区，你就会把阿斯麦（ASML）、台积电（TSMC）以及通盘日本芯片行业都攀扯进来。

是以，如果你望望累计市值，这是当下对东说念主工智能的径直投资，限制巨大。是以我认为，当你扫视通盘投阅历局时，你险些被动对此酿成看法，因为险些通盘东说念主都会在某种姿色上与一个指数进行对比，而该指数在微不雅层面上将是东说念主工智能的繁衍投资。我认为这是一个别有洞天的期间，因为通盘的公开市集投资都是对不同旅途进行情景分析和概率加权。如果你追念一下简略四个月前我们议论的时候，我想说，末端的散播仍是发生了变化。

那时，在阿谁时辰点，在阿谁层面上进行预西宾和扩大限制悉数是可行之说念。那时我们就究诘了其影响。我们议论过帕斯卡的赌注，也议论过囚徒困境。在我看来，当过问成本是 10 亿好意思元或 50 亿好意思元时，议论这些是容易的。但我们很快就要接近这样一个时辰点，届时赌注将达到 200 亿好意思元或 500 亿好意思元。你可以望望这些公司的现款流量表。很难偷偷加入300亿好意思元的来往额度。

因此，GPT-5 的到手总体上崩溃了。让我们将其应用于通盘不同的实验室。我认为这蓝本会是对于过问资金量的一个瑕疵解释点，因为这些都是三到四年的过问承诺。如果你回到写这篇著作的时候，那时是在议论 Stargate，即假设的由 OpenAI 和微软究诘的 1000 亿好意思元数据中心，那是在 2028 年的请托承诺。

但在接下来的六到九个月中的某个时候，要么行，要么不行。我们仍是知说念，30 万到 40万个芯片的超等集群将在来岁年底到 2026 年头请托。但我们可能需要看到下一款机型取得一些到手的字据，才能得到下一轮的承诺。是以，我认为通盘这些都是布景。在微不雅层面上，如果我们从预西宾转向推理时辰，这将是一个绝顶有劲的调理，而且有几个瑕疵影响。

其一，它能使收入生成与支拨更好地协调一致。我认为这对于通盘行业来说是一个绝顶绝顶有益的末端，因为在预西宾范围，情况并非如斯。

将过问 200 亿、300 亿、400 亿好意思元用于成本支拨，在 9 到 12 个月内西宾模子，进行西宾后的就业，然后将其推出，然后但愿通过推理从中得到收入。在测试时辰谋略膨胀的世界里，你现在正在使你的支拨与模子的底层使用情况相匹配。因此，就纯正的效力和财务方面的可膨胀性而言，对于超大限制企业来说，这要好得多。

我认为第二个瑕疵影响在于，同样，我们必须说，我们不知说念预西宾的限制化是否会罢手。但如果你确乎看到了这种向推理时辰的调理，我认为你需要启动想考如何从新设计麇集架构？你是否需要在能源低成本的陆地上建立数百万个芯片超等集群，如故需要在世界范围内分散布局更小、更低延伸、更高效的推理时辰数据中心？而且当你从新设计麇集架构时，对电力愚弄率和电网设计的影响是什么？

我想说，撑握投资世界很大一部分的诸多申诉，我认为都得从新想考。而且我要说，由于这是一种相对较新的景象，如今公众市集尚未启动入部属手随意这种潜在的新架构是什么样式，以及它可能会如何影响一些潜在的支拨。

小团队也在打造出色的模子

Patrick

Chetan，我很好奇，偶然能讲讲 DeepSeek 以极端他访佛的情况，在这些情况中，你会看到小团队用相对较少的资金构建新模子，在性能上与一些前沿模子相竞争。你能谈谈这种景象以及它让你料想了什么，或者对通盘行业有何影响吗？

Chetan

这简直令东说念主慨叹。在昔时的，简略六周的时辰里，我们在 Benchmark 这里见到的团队，成员东说念主数在两到五东说念主之间。Modest之前在你们的播客中谈过这个，那即是技能翻新的故事一直是，在帕洛阿尔托的某个车库里，老是有两到三个东说念主在作念一些事情，以绝顶绝顶赶快地赶上老牌企业。

我认为我们现在在模子层看到了这种情况，坦率地说，这是两年来未尝见过的。具体而言，我认为我们仍然不可百分之百细目预西宾和西宾限制的回顾不会发生。

我们目前还不知说念。但在当下这个趋于平定的时期，我们启动看到这些小团队赶向前沿。我所说的前沿是指最先进的模子在那里，特别是在文本处理方面？我们看到这些小团队，确凿地说，只须两到五个东说念主，以远低于大型实验室过问多个数目级的资金跃上了前沿。

我认为部分原因在于开源模子的数目惊东说念主地激增。具体来说，Meta 在 LLaMA 方面的一坐一王人在这里产生了巨大的影响。LLaMA 3.1 有三种版块，分别为 4050 亿、700 亿和80 亿。而 LLaMA 3.2 则有 10 亿、30 亿、110 亿和 900 亿这几种版块。

你可以获取这些模子，下载它们，将它们放在腹地机器上，你可以将其放入云表，可以将其放在服务器上，而且你可以使用这些模子来进行索求，优化——诊治、西宾、校正等等，等等，并凭借相当酷爱的算法技能跟向前沿。

而且由于你不需要多量的谋略资源，或者你不需要多量的数据，你就能够在特定的垂直范围、特定的技能或者特定的用例方面展现出特别的聪颖奢睿和翻新才智，从而绝顶赶快地跃升至前沿。我认为这在很大程度上更正了我个东说念主对模子层以及模子层潜在早期投资的看法。这里存在许多不细目性，许多依赖变量，而且履行上在六周内，这一切可能都不再成立了。

但如果这种状态成立，即预西宾并非因合成数据而膨胀，这只是意味着你现在可以作念得更多，以最少的资金赶快跳到前沿，找到你的用例，找到你最坚定的处所，然后从这一丝启程，坦率地说，超等巨头会成为最好的一又友。

因为在目前，如果你处于前沿范围，你正在推动一个用例，你不再受到 GPU 的特别限定。特别是如果你谋略进行测试时推理、测试时谋略之类的就业，而且你为比如说 10 家企业客户提供服务。或者也许这是一个针对特定用例优化的消朦拢决决策。

谋略方面的挑战仍是不像2022年那么大了。在 2022 年，你会和这些开发者交流，这就变成了这样一个问题：嗯，你能把十万个集群免强在一王人吗？因为我们需要进行西宾，然后还得去买通盘这些数据，即便你阐发通盘技能，一忽儿间你一算，就会说，要启动第一次西宾运行我得花十亿好意思元。而这可不是一种可行的模式。

从历史上看，这即是风险投资模式。风险投资模式一直是能否组建一支杰出的团队，达成技能碎裂，作念到成本轻型化，赶快超越现存企业，然后以某种形式得到分销驻足点并鼓励。在昔时两年的模式层面，这似乎绝无可能达成。但在昔时的六、八周里，这种情况确乎发生了更正。

Modest

我认为这很瑕疵。对于 Meta 开源以及超大限制公司的开源推动前沿发展，袖珍模子能够膨胀到绝顶到手的程度，这是极其有益的，特别是对于莫得原生大型讲话模子的 AWS 来说。但如果你退一步想考一下云谋略的历史，就会发现它为开发者和建立者提供了一套器具。AWS 率先清澈地表现了这一愿景。

9 月份在高盛的一次会议上，马特·加曼公开谈到了此事。但他们的不雅点显着一直是，大型讲话模子只是另一种器具，生成式东说念主工智能是他们能够为其企业客户和开发者客户提供以打造下一代产物的另一种器具。这种愿景濒临的风险是一个万能且具有普遍性的暴民。

是以，这再次让你不得不从新想考，如果我们不构建这些大限制的预西宾实体，将西宾耗损降至近乎为零，并以这样或那样的姿色构建出阿谁隐喻中的天主，那会怎么。

相背，如果行业的重心是在测试阶段、推理阶段，并试图在客户需要的处所解决履行问题，我认为这再次从新设计并从新构建了这项技能如何推出的通盘愿景。而且我认为我们需要柔顺，因为我们不知说念 LLaMA 4 会是什么样式。我们不知说念Grok 3 行将推出。这是目前在有史以来最大的集群上进行西宾的两个模子。

是以我们现在所说的一切可能在三个月内都是错的。但我认为，当下的通盘就业即是继承通盘可用的信息，并根据我们如今所知从新描画多样情景旅途。如果这是正确的，我以为东说念主们还莫得更新他们对于这些旅途可能如何发展的先验判断。

吾爱淫淫网Patrick

我很好奇，Chetan，对于这种变化，也许现在你会投资一家模式公司，你如何看。我紧记两年前我们一王人吃晚餐的时候，你跟我说，作为一家公司，你们刚刚决定不投资这些公司。就像你说的，这不合乎我们的模式。我们不会在初度试运行时就开出数十亿好意思元的支票。

因此，我们不在那部分堆栈上进行投资。我们更多地投资于应用层，在这场究诘中稍后我们会再次回到这个话题。但也许再多谈谈这种对于其如何运作的更新不雅点，一个示例投资可能是什么样式，以及即使 LLaMA 4 是预西宾缩放耗损保握不变，这是否会更正，因为这似乎只是像 DeepSeek 那样受益。好的，现在不是 3.2，而是 4，我们仍在作念我们的事，而且仍然更好、更低廉、更快等等。

那么，是的，对于这种新不雅点，即有可能投资于模式公司，而不单是是应用公司，你有何看法？

Chetan

在 Meta 的上一次财报电话会议上，马克·扎克伯格谈到了他们启动开发 LLaMA 4，并示意 LLaMA 4 正在一个比以往他所见过的任何集群都大的集群上进行西宾。

所援用的数字标明，它比十万台 H100 还要坚定，或者比我所看到的对于其他公司正在作念的任何事情都要坚定。而且他还说，你知说念，较小的 Llama 4 型号应该会在 2025年头准备好。这简直很酷爱，因为岂论 Llama 4 相对于 Llama 3 是否是阶跃函数，这都不瑕疵，瑕疵的是他们是否碎裂了效力的界限，达到了即使只是徐徐晋升的程度，这对开发者群体产生的影响亦然相当深远的，因为如今 Llama 的影响力有两个方面，我认为这对 Meta 绝顶成心，其一。Llama 所使用的 Transformer 架构是一种程序架构，但它有我方的隐微离别。

而且，如果构建于 Llama 之上的通盘开发者生态系统启动只是假设 Llama 3 变换器架构是基础且某种程序的作念法，那么这就有点像是将通盘堆栈朝着 Llama 的想维形式程序化，从硬件供应商如何支握你的西宾运行，到超等巨头等等，不一而足。因此，对 Llama 自己的程序化启动变得越来越普遍。

是以，如果你要创办一家新的模式公司，最终的末端是，如今从 Llama 启动，不仅很棒，因为 Llama 是开源的，而且还极其高效，因为通盘生态系统都在采用这种架构。是以你是对的，作为一家领有 5 亿好意思元资金的早期基金，我们试图在每个基金周期进行 30 项投资，10 亿好意思元的试运行基本上意味着你要过问两笔资金来进行一次可能到手也可能不到手的试运行。

因此，这是一项成本高度密集型的业务。趁机说一下，这些模子的折旧时辰表令东说念主推辞三舍。蒸馏作为一种技能，使得这些模子的珍惜性和这些模子的注释极其具有挑战性。这履行上归结为你在其之上进行的应用是什么，你的麇集效应是什么，你如安在那里获取经济效益等等。

我认为，就目前的情况而言，如果你是一个两到五东说念主的团队，你可以以编程为例，通过在 Llama 的基础上进行微调西宾，推动建立一个能更快生成更好编程谜底的模子，然后提供一个应用门径，其中包含你我方的定制模子，这确乎能为你的客户（岂论是开发者如故其他访佛的东说念主员）带来杰出的效果。是以，我们这里的特定方法和策略一直是，从我们看到 OpenAI API 启动流行起的时候起，就舒适投资于应用门径。

2022 年夏天，我们启动看到开发者议论这些 OpenAI API。从那时起，我们的许多接力即是寻找那些探究愚弄这些 API 来开拓应用层的企业家，并信得过启动想考在刻下这波东说念主工智能海潮之前根底不可能存在哪些应用。

显着，我们仍是看到一些绝顶出色的到手公司从中脱颖而出，它们仍处于早期阶段，但它们所展现出的发展势头、所提供的客户体验、所采用的生物识别技能等等，都非同凡响。几周前，布雷特·泰勒（Brett Taylor）曾在你们的播客节目中，塞拉（Sierra）即是一个这样的例子。在采购方面，我们有一个叫作念 Levelpath 的状貌。在通盘投资组合中，在应用层还有许多其他例子，在那里，你可以扫视每一个大型 SaaS 市集，用应用层的投资去开拓它，并启动想考如今哪些是两年、三年、四年前还无法达成的事情。

深入探究基础模子及主要参与者

Patrick

我很好奇，想稍稍谈谈我们谈到的那些大型基础模子参与者，比如 Llama，但不太想谈 xAI、 Anthropic 和 OpenAI，也许还有 Meta。先从你说起，我很好奇你对于它们的计谋定位以及每家瑕疵的方面的想法。

也许以 OpenAI 为例，也许这里的要道在于他们打造了一个何等出色的品牌，他们领有无边的用户群体，他们有宽广出色的协作伙伴，东说念主们阐发并使用他们的产物，有许多东说念主为他们付费，比如 20 好意思元之类的。也许在这种模式中，分发渠说念比产物自己更为瑕疵。

我很好奇你对这三位球员的看法，到目前为止他们占据主导地位，但通过你目前的分析，似乎瑕疵的是他们要不停翻新。

Modest

是以我认为对 OpenAI 来说酷爱的部分在于，他们刚刚完成了最近一轮融资，而且对于投资情理有一些相当公开的辩驳。没错，许多辩驳都围绕着这样一个不雅点，即他们在消费端仍是得到了潜逃速率，ChatGPT 现在是阐发的参考，跟着时辰的推移，他们将能够鸠合巨大的消费需求端，并据此收取稳当的用度，而他们在企业 API 和应用门径构建方面的过问要少得多。

如果你仔细想想我们所议论的内容，就会发现这超等酷爱。

在他们的财务数据中，如果你剔除培训用度，如果你剔除这笔巨大的前期支拨需求，按照他们的预测，这履行上很快就会成为一家利润丰厚的公司。是以从某种道理上说，这可能会更好。

那么现在问题变成了，一家不再在前沿范围呈阶跃式鼓励的公司，其珍惜才智如何？在这  方面，我认为这最终将归结为一丝，谷歌也在前沿鼓励，而且他们很可能会免费施济产物，还有 Meta。我认为我们偶然可以花一整集来议论 Meta 以及他们在企业和消费者方面的嵌 入式弃取权。但让我们先谈谈消费者方面。

这是一家领有超过 30 亿消费者战役点的企业。他们显着正在将 Meta AI 应用于多样场景。不丢丑出，他们应该收购 Perplexity 公司。

但你刚刚还看到王法部站出来示意，谷歌应该被动授权其搜索索引。我想不出还有谁比 Meta 更成心可图，它有契机以极低的成本连系谷歌的搜索索引。但要道在于，我认为将会有两个大限制的互联网巨头免费提供骨子上访佛于 ChatGPT 的产物。是以这将是一个引东说念主入胜的案例有计划，探讨“这种产物能否在消费者心目中占据主导地位”。

我的孩子们知说念 ChatGPT 是什么，他们不知说念 Claude 是什么。我的家东说念主知说念 ChatGPT 是什么，他们不知说念 Grok 是什么。是以我认为对于 OpenAI 来说，问题在于你能否超越免费？如果你能，而且西宾成本诽谤，这将是一家很快就能盈利的公司。

如果你去了解 Anthropic 公司，我认为他们濒临着一个酷爱的困境，即东说念主们认为 Sonnet 3. 5 可能是现存的最好模子。他们领有令东说念主难以置信的技能东说念主才。他们不停吸纳越来越多的 OpenAI 有计划东说念主员，我认为他们会构建出出色的模子，但他们有点受困。他们在消费者中的知名度不高。

在企业方面，我认为 Llama 会让前沿的模子构建者很难试图在那里创造巨大的价值。是以他们被困在中间。出色的技能内行，优质的产物，但并非信得过可行的策略。而且你看，他们又筹集了 40 亿好意思元。

对我来说，这标明预西宾的膨胀效果不太好，因为 40 亿好意思元远远够不上他们的需求。如果膨胀的路线是预西宾，那我对他们改日的计谋旅途就没什么好的判断力了。我认为他们堕入了困境。对于 xAI，我就当不知说念了。

他是一位唯独无二的东说念主才，他们将领有一个 20 万芯片集群，而且有一个面向消费者的战役点，他们正在构建一个应用门径编程接口（API）。但我认为，如果预西宾是膨胀的路线，那么他们将濒临与其他通盘东说念主同样的数学难题，只不外可能因埃隆独到的筹资才智而有所缓解。

但同样，在接下来的四五年的时辰里，数字会赶快变得如斯无边，致使可能超过他。然后，如果到了测试阶段，谋略和算法校正以及推理，它们的各别在那里，它们的市集切入点在  那里，当你有东说念主在消费端站稳脚跟，而企业端又有一个同样坚定的开源实体时，情况会怎么？

是以当你扫视这三者时，我认为最容易看清的是 OpenAI 改日的发展办法是什么。

不外，对于 OpenAI，我要说的是诺姆·布朗，我发现他是有计划范围最出色的同样者之一。他最近上了红杉成本的播客节目，当被问及通用东说念主工智能时，他说，你看，我以为我在 OpenAI 以外的时候，对通盘通用东说念主工智能的事情握怀疑派头。但履行上这是他们所关心的。

当我进入 OpenAI 就业时，我绝顶明晰他们对于通用东说念主工智能（AGI）绝尖端庄，这是他们的就业，其他一切都服务于 AGI。我们很容易坐在外面，清澈地表现如果我们负责那里可能会采纳的策略，但我认为我们需要意志到这样一个事实，即他们之是以能走到今天这一步，部分原因在于他们肩负着就业。

该任务是开发通用东说念主工智能，对于为其设定任何其他最终谋划，我们都应该绝顶严慎。

Chetan

而我个东说念主的看法是，通用东说念主工智能仍是绝顶接近达成了。

Patrick

再多说几句。那为什么它还没到这儿？这些东西比我打交说念的大多数东说念主都聪颖。

Chetan

是的，我想是这样。狭义界说的东说念主工通用智能（AGI），或者也许是从广义界说的角度来看，这取决于你的不雅点，是一个高度自主的系统，在某些情况下在某些具有经济价值的就业中超越了东说念主类的表现。用这种视角很容易说 AGI 仍是存在。我认为绝顶明确的是，如果你望望 OpenAI 发布的公告以及他们高管在最近几周领受的采访，其中一个例子是端到端的旅行预订，这是我们可以期待在 2025 年看到的东西，在那里你可以提醒系统为你预订旅行，然后它就会去作念。

这是一种新的想维形式，即端到端的任务完成或端到端的就业完成。这显着触及推理，触及自主就业，触及使用谋略机，正如克劳德所表现的那样。而且你正在将这些大型讲话模子与生态系统自己相互作用的多种形式蛊卦起来，将其放入一个绝顶出色的组合中，从而能够完成端到端的就业，并使其完全自动化，作念得比东说念主类更好。在我看来，从这个角度来看，我们仍是绝顶绝顶接近了。

而且我设计，到 2025 年，我们将绝顶接近或达到通用东说念主工智能的水平。鉴于刻下的进展和翻新，再加上现在转向测试时的谋略和推理，从这个角度来看，通用东说念主工智能行将到来。

Modest

这很酷爱，因为我们有点像在水里煮的青蛙，我们相当浮浅地通过了图灵测试，然则再也莫得东说念主坐在这里议论，天哪，我们通过了图灵测试。它来了又昔时了。是以，也许通用东说念主工智能的宣告亦然同样的酷爱，就像，是的，天然模子能够预订端到端的旅行。这履行上没那么难。

然则，两年半以前，如果你说：“嘿，有一种算法，你可以告诉它你想作念什么，它会重新到尾安排好并给你发送一张收条。”你会说，

“没门儿。”是以这可能有点像煮青蛙，一忽儿有一天你醒来，一个实验室说：“嘿，我们达成了通用东说念主工智能。”人人可能有点像，“啊，酷。”不外，实验室告示达成通用东说念主工智能在更平常的道理上酷爱，有一个特别的原因，那即是与微软的关系。微软客岁夏天初度表露，在通用东说念主工智能达成之前，他们领有 OpenAI 学问产权的全部权力。

是以，如果 OpenAI 弃取声称已达成通用东说念主工智能，我认为这将在他们和微软之间激发一种绝顶酷爱的动态，这将加重刻下仍是在阐发作用的、本就绝顶酷爱的动态。是以，这在来岁深信是值得关心的，不仅对公开市集的投资者而言是如斯，对更平常的生态系统的影响亦然如斯。因为我再次认为，如果我们现在所走的说念路是正确的，那么跟着我们向前鼓励，关系和买卖伙伴关系将会有许多从新洗牌。

Patrick

Chetan，Modest对大公司的评估中还有其他内容吗？而且鉴于我们莫得特别谈到谷歌，我们很但愿听听你对谷歌的看法。有莫得他说的话你不容或或者想要进一步追问的？

Chetan

不，我认为我们只是不知说念的是，我们不知说念通盘这些房间里进行的潜在究诘，我们可以推测并了解我们可能会如何作念。但我认为，归根结底，每一家互联网企业或科技企业最终都归结为以下两种情况。

在消费者方面，分销随后与某种麇集效应和锁定效应相蛊卦，然后你就能凭借这一丝脱颖而出，在竞争中占据上风。而在企业方面，这在很大程度上是一种由技能各别化以及以出色的服务级别契约、优质的服务以及绝顶独到的解决决策请托方法所驱动的业务。是以，Modest抵消费者的辩驳以及消费者将如何演变。

我认为这完全正确。Meta、谷歌和 XAI 都有面向消费者的战役点。OpenAI 如今领有出色的品牌，凭借 ChatGPT 以及多量的消费者战役点。在企业方面，挑战在于这些 API 迄今在很大程度上都不如开发者所期许的那样可靠。

由于超大限制云服务提供商出色的就业，开发东说念主员仍是习尚，如果你为一款产物提供 API，那么这款产物应该是无尽可膨胀的，全天候可用的，API 失效的唯一原因是某个大型数据 中心停电之类的原因。很少多情理让 API 失效。这已成为开发东说念主员对企业解决决策的想维模式。在昔时的两年里，AI API 的质料对应用门径开发东说念主员来说是一个巨大的挑战。

因此，最终的末端是东说念主们仍是找到了变通方法，并通过纯正的翻新解决了通盘这些问题。但在这方面不竭鼓励，我们再次回到这一丝上。如果事前西宾和膨胀不是解决之说念，而完全取决于测试时的谋略才智，这即是我们再次回到超大限制运营商传统形式的处所。我认为在这方面，AWS 具有极大的上风，因为 Azure 和 Google 都有出色的云服务，但 AWS领有最大的云。

它确乎以一种绝顶独到的形式构建了弹性。即使在今天，如果你运行 LLaMA 模子，你会但愿在 AWS 上运行 LLaMA 模子，或者由于某些原因，如果你有一些绝顶特定的用例而且需要为腹地客户提供支握，你也可以

在那些监管环境复杂或存在合规原因的大型金融机构中，如果你怡悦，你可以在腹地运行这些模子。

而且，AWS 致使仍是在这方面有所举止，比如 VPC（臆造专用云）、GovCloud 以及诸如斯类的东西。是以，如果我们假设预西宾和膨胀就业仍是完成，那么一忽儿之间， AWS 就会变得极其坚定，在昔时几年里，他们的策略即是与开发者生态系统中的通盘东说念主交一又友，而不是自行开展大型讲话模子的就业。

嗯，他们正在鼓励，但并非以与其他公司同样的形式鼓励，这最终很可能会成为一个相当可以的策略，因为一忽儿间你就领有了最好的 API 服务。我认为另一部分是谷歌，我们还没议论到它，他们的云在某些方面绝顶出色。是以他们有企业业务。如果你望望最新的收益申诉，会发现他们的企业业求履行上仍是相当大限制了。显着，他们的消费业务占主导地位，而且一直有一种看法认为他们如今受到了冲击。

我认为这些力量对他们极具防碍性。但目前尚不明晰这种防碍是否仍是发生。他们对此采纳了什么举止？显着他们正在接力尝试，而且很显着他们正在绝顶接力地尝试。

但我认为这是一件值得关心的事情，亦然我可爱的那种，因为这是典型的翻新者困境。显着，作为现存企业，他们正接力站在不被翻新者取代的成心一边。他们绝顶接力。是以在买卖史上，现存企业到手禁绝翻新者抨击的情况绝顶零落。

而且如果他们在这个期间确乎捍卫了我方的业务，那将是一项杰出的成就。

Modest

是的，谷歌绝顶引东说念主入胜，因为曾有一位出色的卖方分析师卡洛斯·基尔吉纳（Carlos Kirjner），可怜的是，他死字了。但在 2015 年和 2016 年，他花了多量申诉来写谷歌在东说念主工智能方面的进展，以及他们在 DeepMind 所作念的基础就业，履行上他绝顶可爱这些就业，最终去了谷歌就业，但首先揭示了他们在神经麇集和深度学习方面所作念的基础就业这一想法。

显着，他们被这种大限制的暴力膨胀所恐慌，推动这波技能的是实实在在地在谋略上过问。但如果你阅读过任何对那些意想到这堵数据墙的东说念主的采访，他们谈到的其中一丝是，自我对弈可能是克服数据不及的一种模式。而谁比  DeepMind  更擅长自我对弈呢？

如果你扫视一下 DeepMind 在 Transformer 出现之前所领有的后果，以及他们将 Transformer 与谋略才智的膨胀相蛊卦所取得的后果，似乎他们仍是具备了通盘能取胜的条件。但我一直以来建议的问题都不是谷歌能否在东说念主工智能范围取胜？而是，岂论取胜是什么样式，它是否有可能重现刻下表率中取胜时的明后？这才是信得过的问题所在。

正如Chetan所说，如果他们能克服困境并取得到手，那将会令东说念主慨叹，但我认为他们具备这样的条件。信得过的问题在于，他们能否凭借现存的资产打造出一家企业，这家企业在职何方面都能像可以说是我们所见过的最伟大的买卖模式——互联网搜索那样出色。是以我同样很期待关心他们。我认为在企业方面，他们领有令东说念主难以置信的模式和资产。

我认为他们需要赢得许多信任。我以为跟着时辰的推移，他们在阿谁世界里起起落落，是以我认为这对他们来说是一个更难碎裂的方面。但在消费者方面，天然在模子构建方面，他们仍是具备了通盘获胜的条件。

问题在于，阿谁奖项究竟是什么样式？尤其是现在，如果看起来似乎不存在一两个能称霸的模子。

投资者对应用层的看法

Patrick

Chetan，我很好奇，作为又名寻求申诉的投资者，你个东说念主但愿走什么样的说念路？

Chetan

我个东说念主但愿东说念主工智能能握续很万古辰。作为又名风险投资者，你需要巨大的颠覆来解锁分销。如果你望望互联网或出动范围所发生的情况，以及价值在那里产生，在这两波海潮中，价值主要在应用层产生。显着，我们的假设，亦然我的假设，是这一层由于东说念主工智能应用层的翻新，将再次绝顶成心于分销的解锁。我认为到目前为止这在很大程度上仍是露馅出来了。虽然仍处于早期阶段，但那些推露面向消费者和企业的东说念主工智能应用产物的供应商发现，这些解决决策之是以能够存在，完全是因为东说念主工智能。它们正在以一种坦率地说在软件即服务（SaaS）或面向专科消费者的 SaaS 等范围无法达成的形式解锁分销渠说念。

我们将给你一个绝顶具体的例子，一个由东说念主工智能驱动的应用门径。我们现在正向《金钱》500 强企业的首席信息官展示这些演示。两年前，确乎有一些可以的演示。如今，这是一个绝顶出色的演示，同期还蛊卦了五个客户参考案例，这些客户都是同业，他们在坐褥中使用了它，并取得了巨大的到手。在那次交流中，有一丝变得绝顶清澈，那即是我们所展示的并非是对现存 SaaS 解决决策的 5%的校正。而是对于我们能够大幅削减软件支拨和东说念主力成本支拨，并将其调理到这个东说念主工智能解决决策上。而且你对软件的 10 倍传统投资申诉率的界说很容易被认同，东说念主们能在 30 分钟内贯通。

于是你启动看到，昔时软件即服务（SaaS）和东说念主工智能应用平淡有着绝顶漫长的销售周期，而现在 15 分钟就能作念出决定，30 分钟就能作念出决定。而且对于企业来说，采购经过完全不稳固。现在首席信息官会说访佛这样的话：“我们尽快把这个处治。”我们谋略进举止期 30 天的试点。一朝到手，我们就会坚忍合同独立即部署。这些情况在三年、四年前的软件即服务范围是完全不可能的，因为那时你是在与老牌企业竞争，在与他们的分销上风、服务上风以及通盘这类东西竞争。而且很难懂释你的特定产物是独到的。

是以，自 2022 年以来，我可以说自 2022 年 11 月的 ChatGPT 以来，这在这个世界上似乎是一个绝顶好的前后界限。我们仍是对东说念主工智能公司进行了  25  项投资，对于一个由五个协作伙伴组成的 5 亿好意思元基金来说，这是一个杰出的速率。前次我们达到这种速率是在 2009 年 App Store 推出的时候。然后，我们再次达到这种速率是在 1995 年、1996 年的互联网时期。在这两者之间，你们可以看到我们的投资设施相当疏漏。

在非颠覆性时期，我们平均每年简略投资五到七次。显着，现在我们的投资设施大幅加速。如果你望望这 25 家公司，其中四家是基础设施公司，其余的是应用公司。而且我们刚刚投资了我们的第一家模式公司，不外这还莫得公布。

但这是两个东说念主，两个杰出的、才华横溢的东说念主，他们带着很少的资金就投身于前沿范围。是以，我们显着仍是押注并意想到，在应用层会有巨大的翻新和分发解锁。我们仍是看到这种情况正在发生。作为软件投资者，这些产物确乎令东说念主慨叹。

它们需要对这些事物的架构形式进行透澈的从新想考，从第一性道理启程。你需要融合的数据层，需要新的基础设施，需要新的用户界面以及诸如斯类的东西。显着，初创企业相对于老牌软件供应商具有显赫的上风。这并不是说老牌软件供应商停滞不前，只是如今在企业软件范围，翻新者的困境比在消费范围更热烈地在我们目下献艺。

我认为在消费范围，消费者参与者仍是意志到了这一丝，正在推动变革，并正在采纳举止。然则，我认为在企业范围，即便你意志到了这一丝，即便你有采纳举止的愿望，解决决策的构建形式也无法响应大幅的重组架构。那么，我们能看到这种情况发生吗？一家大型 SaaS 公司会暂停销售两年，然后透澈从新架构其应用堆栈吗？

天然，但我即是以为这不会发生。是以，如果你望望对于东说念主工智能软件支拨正在发生什么的任何分析，比如仅纯支拨在 2023 年和 2024 年之间同比增长了 8 倍。在短短一年的

时辰里，就从几亿好意思元增长到了远远超过 10 亿好意思元。你可以看到这种拉动，你能感受到这种拉动。

如果你身处这些东说念主工智能应用公司中的任何一家，会发现这类公司更多地是受供应限定而非需求限定。我们与这些应用公司的首席推行官交流，他们只是会说访佛这样的话：“嗯，就我所能看到的情况，我看到了需求。”我只是莫得才智为通盘对我示意容或的东说念主提供服务。是以我谋略对其进行细分，然后到他们所在的处所去。

作为又名投资者，我所但愿的是这种情况能握续下去，我们能保握稳固，从而专注于这些方面。坦率地说，模子层的稳固对于应用层来说是一个巨大的福音，主如若因为作为应用开发者，你坐在那里看着模子层每年都达成阶跃式的飞跃。

而且你在某种程度上不知说念该构建什么，也不知说念哪些是应该恭候构建的，因为显着你但愿它与模子层完全一致，因为模子层现在正转向推理。这对于应用门径开发东说念主员来说是一个很好的处所。

作为应用门径开发者，你知说念的一件事是东说念主类是莫得耐性的。因此，你需要耐久构建在性能和质料方面优化的解决决策。作为应用门径开发者，你不可对用户说，比如，我谋略提供一个高质料的响应。

Patrick

在 30 分钟内......

Chetan

这只是需要更长的时辰。这并不是一个有劝服力的论点。现在，对于某些用途在那些情况下，这可行吗？你能让它在后台运行 24 小时吗？天然可以。

但这些用例并不普遍且占主导地位，东说念主们也不太怡悦购买这类东西。是以，如果作为应用门径开发者，在昔时几周里，我通盘的董事会会议都是这些公司说，在这种新的推理模式下，我们绝顶有信心投资于这四件事，而在昔时的一年半里，我们一直对这些投资绝顶迟疑，但现在我们要全力押注，我们的系统将会带来巨大的性能晋升。

Patrick

对不起，为什么会是这样？为什么推理这件事会让他们的自信心增强，就像把原因解释明晰一样？

Chetan

嗯，如果你是一个应用门径开发者，你正在扫视目前的模子，而且说说念：“我能明晰地看到我的用例能从中得到效力，但我得在这五个基础设施层面的东西以及这些用户界面的东西上投资。但如果一种新模子在六个月内出现，只是因为模子自己就能作念到这一丝，就把通盘那些投资都吊水漂了，那我为什么还要在这些东西上投资呢？”

我只是谋略恭候模子来完成，然后以此为依据。但在这个推理表率中，如果通盘实验室都追求推理，而推理是 y 轴上的才能，时辰是 x 轴，这即是我们的发展办法，那么我在我方的器具中所作念的任何校正，岂论是由于我以算法形式提供推理的形式，如故我能够获取数据并进行处理等等这类事情，使得推理时辰大幅诽谤，我都应该现在就投资。

如果推理现在是新的表率，而在应用层针对这些推理模子进行临了一英里的请托意味着我正在构建技能和使用器具，而这些是模子公司极不可能构建的。跟着这些推理系统不停校正，我的临了一英里上风和临了一英里请托系统仍然具有上风和可珍惜性。

Patrick

除了编程和客户服务以外，你们俩还有其他最可爱的例子吗？这两者似乎是宽广公司追捧的主要且令东说念主难以置信的令东说念主欣喜和酷的用例。你们还有其他最可爱的例子能稳当《金钱》杂志任何一家公司的首席信息官说“我们现在公司就需要这个”吗？

Modest

Chetan爱他的通盘孩子，是以他无法给你具体的例子。

Chetan

我可以给你 20 个。

Patrick

也许像“明确地”这类表述是我的问题所在。这里有编码，骨子上还有从上至下的支握。

Chetan

望望企业软件方面的最大支拨，你可以用一个东说念主工智能驱动、以东说念主工智能为先的解决决策来随意。是以我们有一家很棒的公司叫 11X，它接力于销售自动化。我们还有一家很棒的公司叫 Leya，讼师们正在用它来大幅提高就业效力。我认为法律一直是一个绝顶酷爱的问题，因为东说念主们认为讼师是按计费工时就业的。

如果你正在对计费工时进行自动化处理，难说念其经济效益不会更正吗？嗯，如今，两年昔时了，有字据标明，讼师通过使用东说念主工智能最终盈利大幅增多。原因在于，许多蓝本是机械性的、重迭性的、贫乏的就业，昔时是由讼师事务所里面的低级东说念主员完成的，归正讼师事务所也无法对这些就业计费。是以，如果你能将文献分析的时辰从三四天诽谤到 24 小时，一忽儿间你就把通盘讼师解脱出来，让他们去作念通盘能计费的计谋性就业，以及那些对客户极具价值的就业。

举个例子，我们有一家正在达成司帐自动化以及财务建模的公司。我们有一家正在更正游戏开发运作形式的公司。有东说念主正在涉足电路板设计范围，这蓝本是一项极其东说念主工化且耗尽多量东说念主力的事情，而谋略机系统在这方面尤其擅长。最近，我们还投资了一个针对告白麇集的状貌。

这在初创企业中仍是是很久未被触及的事情了，但事实解释，在东说念主工智能世界中，将领有库存的东说念主和想要作念告白的东说念主进行匹配，效力要高得多。是以我们投资了一家领有新文档处理模式的公司，他们正在冲击 OpenText。初创企业前次探究 OpenText 是什么时候？仍是很深化，在这些巨大的现存 SaaS 市集被认为对新初创企业怒放之前，仍是过了很万古辰。

是以你必须追求更具利基性、更具垂直性的业务。我常开打趣说，比如，我看到过这个，这是在东欧就业的现场就业主说念主员的工资单。这是一家 SaaS 公司，在 2019 年你确乎得探究它。而现在，我们又回到了大片的横向支拨，比如，嘿，这里有一个现存的企业，价值超过 100 亿好意思元，这里的市集每年的支拨是 100 亿好意思元。

东说念主工智能能让这里的产物浮浅地变得更好 10 倍、更快，以及具备通盘用户期许的特质。而要得到这种上风，就需要一个新的平台。这即是这个平台的道理所在。

Modest

Patrick，在一启动你就问到了对于投资申诉率（ROI）、成本支拨（CapEx）以及通盘这些的大辩论，当你凝听奇普（Chip）的言论，当你凝听应用层的其他投资者的言论，当你凝听超大限制企业的言论时，昔时三个月最瑕疵的得益是，用例正在涌现。没错，人人都知说念编程，人人都知说念客户支握，但这确乎启动渗入，并融入更平常的生态系统中。而且收入正在成为现实。对于投资申诉率的问题，挑战耐久在于，好吧，你把资金过问这里，然后在投资期限内对其进行摊销，但与此同期，你又在为下一个模子过问下一笔资金。

因此，每个东说念主都可以作念出这些推断并说：“哦，天哪，这不单是微软在 2025 年将过问850 亿好意思元的现款成本支拨（包括租出），而是这对 26 年、27 年、28 年意味着什么？”因为预西宾模子变得如斯无边，如果……而且，这又是一个假设，即我们趋于平定，而且在预西宾上破耗的资金减少，将资金转向推理。我们知说念这笔支拨行将到来，我们知说念客户的收入着手行将到来。

因此，说这笔支拨是合理的就变得容易得多了。我认为瑕疵的是，东说念主们要记着这些公司潜在的阴云，这意味着只是是旧例的存储和谋略仍在以两位数的高位增长。是以，有一些资金需要分拨到这方面。当你是一家业务增长 18%的千亿好意思元企业时，你是一家业务增长 25%的 600 亿好意思元企业。

这是六、九个月前人人都绝顶担忧的增量成本。我个东说念主从第三季度的数据中得出的看法是，好的，我明白了，这里有应用场景。推理正在进行。技能正在阐发其应有的作用。

推理的成本在骤降，愚弄率在飙升。把这两者蛊卦起来，你会得到一个不停增长的可不雅收入，一切都很好。萨蒂亚·纳德拉谈到了这一丝。问题在于，你为模子过问了资金，在推理方面得到了申诉，但随后我们又在为下一个模子过问资金。

如果我们能够启动说，嘿，也许我们不会在接下来的 500 亿好意思元上过问这个模子，那么投资申诉率的谋略看起来就会好得多。对于你问杰森的一个问题，即为什么模子层的稳固性很瑕疵？我认为萨姆·阿尔特曼给出了正确的谜底，那是六个月前，他在一个播客中说，如果你发怵我们的下一个模子发布，我们会把你碾过。如果你期待着我们的下一个模子推出，那么你就处于成心地位。

嗯，如果履行情况是下一个模子将在推理时使用，而非从新西宾，那么你可能就无用太悲哀它们会失控。是以我认为，帕特，我们在这里议论的通盘内容都绝顶成心于通盘生态系统酿成成心的经济现实，这即是通盘注重力成本都过问到推理上的原因。信得过令东说念主担忧的是，我们是否需要破耗 500 亿、1000 亿、2000 亿好意思元来在预西宾中构建这些更精准的模子？

一级市集估值向我们揭示了什么

Patrick

在哪些处所，价钱最能响应相配的乐不雅神气或炒作？天然，我确乎见过相当多的私募市集公司，比如说 A 轮类型的公司，它们的估值极高。它们往往是令东说念主难以置信的团队，绝顶令东说念主欣喜，但它们所在的范围，如果某样东西行得通，你可以瞎想会有许多其他聪颖绝顶的投资者为一些竞争敌手提供资金。是以你会看到这些情况，比如很棒的团队、高价钱、高后劲的竞争，绝顶令东说念主欣喜，一切都发展赶快。

我很好奇，你们俩现在从估值和市盈率中读出了哪些信号。

Chetan

在私东说念主市集中，正在发生的事情之一即是谋略价钱的急剧下降，岂论是推理如故西宾等等，因为谋略变得更容易获取了。如果你今天作为应用门径开发者坐在这里，与两年前比拟， 这些模子的推理成本下降了一百倍、两百倍。坦率地说，这太离谱了。你从未见过成本弧线如斯笔陡、下降得如斯之快。

这是基于 15 年的云成本弧线得出的论断，这些成本弧线自己就仍是令东说念主慨叹和难以置信了。东说念主工智能的成本弧线则完全处于一个不同的水平。我们之前望望我们在 2022 年资助的第一波应用公司的成本弧线。你看推理成本，在最新的前沿模子中，每百万代币大要是 15 到 20 好意思元。

而如今，大多数公司致使都不会探究推理成本，因为就像，嗯，我们把这项任务分解了，然后我们针对这些相当基础的任务使用这些袖珍模子，而我们最前沿的模子所处理的大 多是这极少数的提醒。其余的部分，我们只是创建了这个智能路由系统。是以我们的推理成本基本上为零。而这项任务的毛利率为 95%。

你只须望望这个，就会以为，哇，想考应用增长利润率的形式与我们在昔时十年多时辰里针对 SaaS 以及基本上针对软件所作念的完全不同。是以我认为，这即是你启动着眼于并想考的处所，即这些新的东说念主工智能应用的通盘应用堆栈。这要从提供推理的东说念主员启动。要从器具和编排层启动。

是以我们有一家绝顶受宥恕的投资组合公司，叫作念 LangChain，还有推理层，我们有 Fireworks。这类公司正被开发者多量使用。然后一直朝上，到应用门径自己。我认为只是是翻新的速率、买卖到手的速率，就令私东说念主投资者欣喜不已。

模子稳固性还有招引东说念主的处所在于，现在我们终于可以假设，如果这行得通，那么通盘这些公司都将相当检朴资金。因为如果你无用在预西宾上破耗多量资金，如果你无用在推理上破耗多量资金，因为大多数超大限制公司现在都会以这样的成本为你提供绝顶可靠的 API。现在是从事应用开发业务的好时机，亦然处于应用开发堆栈的好时机。

Patrick

Modest，你对估值有什么看法？

Modest

我认为，总体而言，你得从动物精神说起。如果你回到 ChatGPT 发布的前一周，也即是 2022 年秋季，科技行业可能刚刚经历了自互联网泡沫碎裂以来最粗莽的熊市。可以说，对于中位数的科技股而言，情况致使比金融危急还要倒霉。一些限制绝顶大的成长型基金下落了 60%、70%。

你曾目睹超等巨头初度裁人。你曾目睹成本支拨削减，运营支拨削减。通盘科技界乃至公开市集都迷漫着一种天差地远的氛围。ChatGPT 的发布促使冒险精神再度兴起，这是一个渐进的过程。

是以我认为，总体而言，大众市集存在多量的乐不雅神气，其中许多都与这样一个主题相关：我们正处于一个新平台期间，对于许多不同的新成见，太空才是极限。是以，如果我们是对的，就存在这种全球性的悬而未决的情况。我认为，这归根结底是要贯通，如果成人性支拨和超大限制运营商的运营成本与收入生成筹商得愈加精细，那么改日的新旅途会是什么样式。如果你听亚马逊麇集服务（AWS），他们说的酷爱的事情之一是，他们称 AWS 是一家物流企业。

我认为外界莫得东说念主会扫视云谋略并说，哦，是的，那是一个物流业务。但他们的不雅点骨子上是，他们必须作念的是预测需求，而且必须在多年基础上建立供应以欢快需求。

而且在昔时的 20 多年里，他们在昔时两年所发生的事情上变得极其出色。前次我就谈到，需求大幅增长，冲击了零落弹性的供应，因为你无法在三个星期内增多数据中心的容量。是以，如果能回到一种更具可预测性的需求节拍，让他们能够扫视并说，好的，我们现在知说念收入的着手在那里。

这来自测试阶段，来自Chetan极端公司推出的产物。现在我们知说念如何将供应与之匹配。现在又回到了物流业务上。现在不是要把国内每一个闲置的核电站都找出来并试图让其过问运营。

是以，我认为这并非是一种篡夺地皮的举止，而是以一种更合理、理智、有档次的形式来进行。履行上，我猜如果这条路是正确的，那么这种推断会比我们瞎想中更快地超越西宾，其效果会比我们可能意想的更大。

但我认为，在麇集设计中，这方面的旅途将会看起来大不同样，而且对于那些构建麇集、为麇集提供能源以及通过麇集传输光信号的东说念主来说，将会产生绝顶瑕疵的影响。而通盘这一切，我认为，在很大一部分公开市集的概率加权散播中，履行上尚未信得过启动露馅。

而且你看，我认为大多数东说念主过度关心英伟达，因为他们算是这方面的典型代表，但英伟达下流有许多东说念主可能会遭受更大的耗损，因为他们的业务较差。英伟达是一家出色的企业，作念着出色的事情。他们只是碰劲达成了盈余的大幅增长。我认为这带来的影响远远超出了谁在制造最前沿的 GPU，尽管我确乎认为，这种新的测试时辰谋略表率是否能让芯片层面的定制化程度大大提高，这会存在疑问，也即是说，如果我们只是基于预西宾进行膨胀，是否能达成更高的定制化程度。

但我认为，岂论何时在正常对话中碰到这个问题，东说念主们都过度关心英伟达。我以为东说念主们可爱争论阿谁特定的名字，但我认为在东说念主工智能构建的宽广繁衍应用中，末端的散播仍是发生了变化，而这尚未得到体现。

Chetan

我只是认为，在测试期间以及从应用层的推理表率中想考这个问题是绝顶瑕疵的，即你的提醒中有若干履行上将推理作为复兴这些提醒的一种形式。而且，没错，跟着这项技能变得愈加可用和易用，应用门径开发东说念主员对其的使用会比现在多得多。

但是，如果你只是望望刻下的技能，以及仍是从应用层得到的慨叹之处，那么会有若干百分比的提醒或查询会使用推理呢？很难粗率揣测一下就说会有 90%的查询会使用推理。

这似乎不会是那样的，因为再说一次，你的用户是不会恭候的。东说念主类天生就没耐性，而你有一个解决决策，只是空转着，还以为你的用户仍是走了。不管他们处于哪个范围，他们都走了。是以，没错，可能会有某些特定任务需要很万古辰才能完成，而且能达成高精度。

但到目前为止，速率是这些应用门径开发者最瑕疵的探究身分。那么，我们是否会领有一个系统，不停回溯、反复愚弄通盘这些谋略才智，而在哪些市集份额的查询中使用这些才智呢？很难瞎想这会是绝大多数的查询。那么，至少从私东说念主市集、早期投资者的角度来看，这意味着什么？除了我我方的范围，我很难瞎想这会对其他任何东西产生什么影响。

但这其中的含义只是是，你在西宾时所需的谋略量远不如西宾时那么多。西宾只是一项握续的就业。你在不停膨胀，而且一直在充分阐发通盘的谋略才智，只是在应用层进行，这极其突兀。你会有一些任务需要立即多量处理，而许多时候你其实并不需要那么多。

因此，这再次解释了超等巨头以及像 EC2 和 S3 这样的服务是何等出色。在这个新世界中，超等巨头提供的解决决策确乎绝顶棒。我认为亚马逊的培训以及谷歌的 TPUs确乎绝顶出色，它们为开发者提供了绝佳的体验。我认为对于应用门径开发者来说，家喻户晓的部分情况是，在这个用例中，使用 GPU 确乎绝顶贫乏。

要让纠合在一王人的 GPU 达成最大愚弄率，岂论你是从戴尔购买如故从超大限制运营商购买，都简直很难使用。但跟着新的软件翻新，这显着会得到改善。而且超大限制运营商自身推出的产物，简直绝顶绝顶棒，在进行测试阶段的谋略时，你根底不需要像西宾时那样舒适过问。

Modest

我认为这在 GPU 的愚弄方面是一个绝顶瑕疵的点。如果你探究一项西宾任务，你试图在很长一段时辰内以尽可能高的百分比愚弄它们。是以你试图在一个处所遗弃 50 万、100 万个芯片，并以尽可能高的速率愚弄它们长达九个月。剩下的是一个十万个芯片的集群，如果你要将其从新用于推理，可以说这不是最灵验的构建，因为推理是峰值和突发性的，而不是握续的。

是以这即是我正在议论的，我只是认为从第一性道理启程，你将从新想考你但愿如何构建基础设施，以服务于一个比西宾更侧重于推理的世界。詹森仍是谈到了英伟达的奥密之处，即你留住了这种现成的基础设施，随后就可以加以愚弄。

在这个千里没成本的世界里，你可能会说，天然，如果我被动建造一个包含一百万个芯片的超等集群来西宾一个价值五百亿好意思元的模子，那我完成后天然可以把这个资产行为汗水挥洒掉。但从第一性道理来看，显着，你毫不会为了欢快Chetan所议论的那种需求，而建造一个功率达 2.5 吉瓦的 35 万个芯片的集群。

因此，如果你最终领有低延伸和高效力的更多边缘谋略，这对光麇集意味着什么？对电网意味着什么？对现场电力需求与从当地公用奇迹获取电力的才智意味着什么？我认为这些是我绝顶有兴味阅读的问题类型。

但到目前为止，许多分析仍然集结在我们点火三里岛时会发生什么，因为新的模式确乎还为前锋早。

半导体范围仍需翻新之处

Patrick

你认为，尽管在半导体范围会有多量的翻新，但我们是否仍然需要而且将会看到这些翻新呢？岂论是麇集方面，岂论是光学方面，如故芯片自己，不同类型的芯片。

Modest

我想这会进一步加速这一进度，因为很难意想一个在西宾中就采用大限制绿色能源的世界。在我看来，数百年来，先是出现淘金热、圈地热，每个东说念主都只顾着目下。但在技能范围，跟着一些稳固性的酿成，会进入一个优化期。在推理方面，你们仍是经历了这样一个时期。

Chetan所指的是，东说念主们有时辰优化谋略机中的底层算法，推理失实率下降了 99%。这与互联网泡沫末期互联网传输的情况同样，那时东说念主们说，不，你毫不可能在线播放电影。你知说念这要花若干钱吗？而传输成本在 20 年里每年都像钟表一样准时下降 25%。

该业务的履行利润池在 20 年内保握不变。是以我认为，我们经历了这种猖獗的需求激增，而且我以为，如果我们能稍稍稳固下来，让每个东说念主都能喘语气，就会有两个东说念主在车库里对一切可能优化的方面进行优化。从耐久来看，这即是技能的魔力所在，它是通货紧缩的，因为这是一个优化问题，但在猖獗霸占市集的时候，你就没时辰优化了。前次我跟你说过这话。

数据中心行业，它们在电力方面是中性的。通盘数据中心业务对电力的需求增长在五年内都莫得增长。这是因为那时处于云数据中心建立的完全老练阶段。我不知说念你们何时会达到阿谁阶段。

我的酷爱是，我们知说念这些至少在 2026 年或 2027 年之前还有三四年时辰的东说念主，会任重道远地进行建立。

在什么时候，每个东说念主都会有时辰深吸连气儿并说，好的，现在让我们想办法如何更高效地运行这些？这即是事物的骨子。在谋略方面亦然如斯。我只是认为，我们还莫得达到技能东说念主员能够应用他们的优化的程度。他们一直在进行实施。

Chetan

我会给你们提供几个我这边的一些数据点。我的协作伙伴埃里克是一家出色的半导体公司 Cerebras 的董事会成员，他们最近告示，Cerebras 的 Llama 3.1 能够每秒生成超过 4050亿个推理末端，每秒能生成 900 多个令牌，这是一个数目级的大幅增长。我认为，例如来说，这比 GPU 的推理速率快 70 到 75 倍。是以，当我们进入推理世界、半导体层、麇集层等等，初创企业有多量的契机信得过使我方不同凡响。

然后我要建议的第二件事是，我最近刚和一家大型金融服务机构的首席信息官交谈过，他说在昔时两年里，他们事前购买了许多图形处理器（GPU），因为他们认为会有许多东说念主工智能应用。

就业负载，谁知说念他们我方是不是需要作念些培训。是以这些系统现在正被装配到他们的数据中心，而且仍是上线，在这个世界里，你不需要我方创建模子。即使你创建了，也只是对开源模子进行微调。这没那么复杂。

是以他的不雅点是，你看，如果你有东说念主工智能应用门径在腹地运行，那基本上是免费的。我有通盘这些容量，我根底没用它来作念任何事。推理很轻量，是以目前我有无尽的容量在腹地运行东说念主工智能应用门径，而且这不会让我增多任何边缘成本，因为通盘这些东西都已启动并运行，而我根底没用它来作念任何事，是以我准备购买。

是以，不仅你所议论的通盘这些应用事物令东说念主极其欣喜，因为它们能开释投资申诉率以及通盘相关的东西，而且一朝你能在我们的开拓上运行其中任何东西，这会极地面诽谤我们的成本。

是以，当你领有这样的东西时，到处都是赢赢赢的时势。这即是刻下的景色。那么，这种产能富饶会握续多久呢？应用门径开发者以充分愚弄通盘容量并碎裂极限而著明，一忽儿之间，也曾富饶的容量最终会变成不及的容量，因为一忽儿之间，我们进行了平常的建立，然后决定在上头传输视频。

天然，东说念主工智能应用会变得愈发复杂，并消耗掉通盘这些容量。但从投资的角度来看，这是一个更具可预测性、更千里着安逸的世界，而不是在预西宾的情况下无尽膨胀。

Modest

我好奇并想要关心的一件事是：瑕疵的是要记着，申诉并不是说模子莫得在校正——而是说模子相对于预期或者应用于它们的谋略量而言莫得校正。是以我认为，我们确乎需要严慎地得出实验室不会不竭接力去破解难题的论断。

在预西宾方面，我认为问题在于，其一，我们应该寻找什么？但其次，如果他们不竭沿着阿谁办法鼓励，我们是否信托，而这一直是我苦苦想索的问题，即如果在预西宾中缩放定律成立，东说念主们是否怡悦破耗 1000 亿好意思元？

而且我知说念，东说念主东说念主都说如果你是为了终极大奖而战，你深信会这样作念，但是仍是有足够多的质疑声息出现，即单纯的暴力破解式预西宾即是通向终极解锁的路线吗？如故说现在是预西宾、后西宾和测试时谋略的某种组合？在这种情况下，同样，我认为世界上的情况只是，从数学角度来看要合理得多。而且我看到了许多辩驳，说东说念主们声称东说念主工智能的发展仍是散伙等等。

但愿今天能从中得到的启示是，我认为那些信得过深入有计划这个问题的东说念主不会这样说。东说念主们会说东说念主工智能正在全速鼓励。我认为问题在于进取的轴心究竟是什么。在我看来，从我的角度来看，这种说法似乎更未可厚非。

走这条说念路似乎要合理得多，而不是事前破耗任何可能的金额来建造这个假设的天主。是以我认为，如果我们最终走上这条路，这会是一个好得多的末端。

Patrick

我很好奇你认为在通盘事件中，如果有的话，最零落究诘的部分是什么。有莫得什么事情你发现我方想考得比从一又友和共事那里听到的究诘要多得多？

Chetan

在大众投资者方面，只是阅读卖方申诉，而我们看到的是卖方申诉或分析，即对于这种新的测试时辰谋略表率意味着什么以及情况如何变化的内容。是以我简直期待着对于这种新表率调理的更多卖方分析。我认为在私募市集中的相关报说念也很少。

我认为，与这些企业家会面的东说念主们所了解到的是，这些企业家如今在前沿范围的过问是何等高效。而这是最近才发生的调理。你会看到东说念主们只需过问不到一百万好意思元，就能在特定的用例中，而非平常地，与前沿模子在性能上相失色。而这是两年前致使一年前我们都未尝见到的。

Modest

事前西宾是对成本主义的一次瑕疵熟习。如果我们沿着这条说念路走下去，我以为从微不雅经济布景去分析将会发生什么要好得多，因为你无用探究天主的内在价值。我只是以为，就我期待阅读和听到的内容而言，这要好得多。是的，我倒是但愿看到有想想的里面分析师信得过接力随意......

目前我以为这有点珍惜性的意味。东说念主们在为限制未扩大而只是调理这一事实进行诡辩。这天然可以。但现在我们得有计划一下二阶效应、三阶效应。

那么这究竟是如何体现的呢？我认为这对通盘生态系统、通盘经济绝顶成心。但我认为，会有许多盈余从之前看似赢家的处所调理出来，而那些看似输家的处所则会出现多量盈 余。

Patrick

在接下来的六个月里，什么样的末端会让你感到最迷濛？

Chetan

嗯，从积极的方面来说，有两个引东说念主贯注的例子：如果有东说念主拿出后果，标明预西宾又从新流行起来，而且在合成数据方面取得了巨大碎裂，一忽儿之间，事情就启动了，再次启动。价值十亿好意思元和一百亿好意思元的集群又会回到谈判桌上。你会且归，但一忽儿之间，范式调理会绝顶惊东说念主。一忽儿之间，我们现在会议论一个价值一千亿好意思元的超等集群，它要进行预西宾。

那么很显着，如果我的预期成真，即来岁我们将达成通用东说念主工智能，我们将领有通用东说念主工智能，而且我们正在建造一个价值一千亿好意思元的集群，因为我们在合成数据方面取得了碎裂，一切都行得通，我们可以模拟一切。

我认为另一种情况是，现在绝顶明晰的是，虽然我们仍是用尽了对于文本的数据，但我们远未用尽对于视频和音频的数据。而且我认为，这些模子在新姿色的模式上的才智仍待细目。是以我们即是不知说念，因为此前重心并未放在那里。但现在你启动看到大型实验室更多地议论音频和视频。

从东说念主类交互的角度来看，这些模子将能够达成什么，我认为这将会相当惊东说念主。我认为你们仍是看到了图像生成和视频生成方面有了多大的飞跃。而一年后、两年后的情况会是怎么，可能会令东说念主绝顶难以置信。

Modest

是的，我认为对于非技能内行来说，贫乏的部分在于，在昔时的一年到一年半的时辰里，问题一直是如果罢职缩放定律，GPT - 5 会带来什么？莫得东说念主能够信得过清澈地表现出来，因为我们所知说念的是，好的，西宾耗损会诽谤。是以你会说，好的，这个东西鄙人一个标识预测方面会更准确。但从才智的角度来看，这到底意味着什么？

在发布之前，我们未尝意志到的新兴才智是什么？是以我认为，除非实验室站出来说，它的准确性绝顶好，值得不竭沿着这种对数线性规格化的轨迹发展。如果有东说念主这样说，我想，不管通盘究诘的情况如何，也不管你可能信托什么，你都得说，好吧，这种情况又出现了。我只是认为，你必须保握超等怒放的心态。

如果我们三个月前进行这场对话，那时会有暗里里的议论，但不会公开究诘。我只是认为你必须不停更新你的先验学问。是以，显着，就像杰森所说，我会寻找那样的东西。就我个东说念主而言，我密切关心 Llama。

显着，在某个时候存在这样一种风险，即他们决定不再保握开源。如果我是生态系统中的其他参与者，我会养精蓄锐确保 Llama 保握开源。而且，要达成这一丝，是有一定办法可行的。

但我认为这只是一方面，因为他们在前沿过问的意愿，以及像他们那样提供那些模子的形式，我认为仍是透澈更正了模子行业的计谋动态。是以这是我会关心的另一个方面。

对于通用东说念主工智能（AGI）及后续发展的想考

Patrick

在我们接近究诘尾声的时候，我有一个形而上学方面的问题，是对于东说念主工智能超等智能（ASI）。是以，如果通用东说念主工智能（AGI）仍是存在或者来岁就会出现，你们两位究竟会如何看待它？我想这建立在之前对于我们究竟对停留在缩放壁垒上的 GPT-5 有何期许的究诘之上。这意味着什么？

因为至少在浮浅的聊天互动中，我能瞎想到它能作念得好得多的事情越来越少了，致使都不知说念那会是什么样式。而且，我们可能还只是处于应用门径开发、微调、校正、算法更新等等的早期阶段。

是以我很好奇，从形而上学角度来说，对于超出我们天生所领有的东西，你认为要道的窥伺程序会是什么，或者可能会有什么，因为现存的模子在不停诊治、优化和校正。东说念主工智能究竟意味着什么？

这是否意味着它解决了此前不可能解决的数学或物理难题，如故其他什么情况？

阿谁想法对你们俩来说意味着什么？

Chetan

这些都不是我的话。我不紧记领先是谁说的，但东说念主类简直很擅长更正对期许的程序。 20 世纪 70 年代的东说念主工智能所代表的道理与 80 年代、90 年代、21 世纪初以及 2024年的道理是不同的。是以，如果一台谋略机能够作念到某件事，东说念主类就会有一种很好的

形式将其描写为自动化。而谋略机作念不到的任何事，现在都会成为东说念主工智能的新程序。

是以我认为，这些系统仍是极其智能，在复制东说念主类智能方面表现出色，有时致使超越东说念主类智能。我认为，如果你望望像 DeepMind 这样的一些模子开发者以及几家初创公司在数学、物理和生物学等范围所走的说念路，就会绝顶明晰，这些模子的应用和输出将会是东说念主类以前根底无法作念到的事情。我们仍是看到，在卵白质折叠等方面即是如斯。

今天，我们启动看到一些与之相关的东西，这触及到数学解释。我有信心，这也会触及到物阐发释。是以我对东说念主类的乐不雅但愿是，我不知说念，我们能够翻开虫洞之类的东西，我们将能够以前所未有的限制有计划广义相对论，有计划黑洞，或者以我们以前无法作念到的形式模拟黑洞。

此刻，通盘这一切听起来都有点无理，但就目前事情的进展形式以及仍是发展的形式而言，我们并不知说念什么是有可能达成的，什么是不可能的。

再从投资者的角度来看，迎面对未知的改日，可能性取决于你的瞎想力时，这平淡是早期投资者的好时机，因为这意味着技能仍是解锁。平淡，当技能以惊东说念主的形式解锁时，分销也会随之解锁，此时你就可以去获取那些也曾绝顶不菲的客户了。

是以以前，如果你想开发一个消费类应用门径，你就得把应用商店的税费、搜索告白麇集以及通盘这类东西都探究在内。而一忽儿间，这只是在单元经济学方面很快就能完成的就业。

同样，在软件即服务（SaaS）范围，情况访佛于 A）坐褥力、毛利率和基础设施成本。你只是试图进行电子表格操作，早期投资启动变得更像电子表格操作，而非信得过的技 术翻新。我认为，当你有这样瑕疵的碎裂时，一切都又会发生某种变化。分销近乎免费。

如果你领有独到的东西，而且它具有口碑和病毒式传播的身分，那么技能支拨履行上又会回到只是投资于你的开发东说念主员、你的科研东说念主员以及研发上，研发带来的投资申诉率又会启动变得显赫。作为早期投资者，最令东说念主欣喜的是，我们并不知说念改日的情况，因此又回到了东说念主类的创造力和东说念主们能够碎裂这些界限上。

Modest

对于早期投资者来说这令东说念主欣喜，但我以为对于有点怀疑的公开市集投资者来说这很可怕。价钱是基于嗅觉而非数学谋略得出的。在对于 ASI 的电子表格中，我想我们之前仍是究诘过这个成见了。这即是东说念主们破耗如斯之多的原因。

在这上头破耗许多时辰是因为它太深刻了。

最终，有些东说念主对我们正在建立的东西握有近乎宗教般的看法。每当这种情况出现，我认为风险就会更高。这有点难以捉摸，而且超等复杂。是以我们都可爱对此进行辩论。

但我认为这里有一件事我们尚未说起，那即是有一群东说念主相当进军地信托，在某个时候会出现递归式的自我晋升。而且我认为，岂论假设中的 ASI 意味着什么，这都将是一条瑕疵的碎裂旅途，即当机器足够聪颖，能够自我学习和自我教化的时候。

从不那么戏剧性的角度来看，我是这样想考这个问题的，有阿尔法围棋（AlphaGo），它作念出了阿谁从未有东说念主见过的走法，我想那是第 37 步，人人都超等困惑，但它最终赢了。另一个我可爱的例子是诺姆·布朗（Noam Brown），因为我可爱扑克，他谈到了他的扑克机器东说念主，它是在高赌注、无尽定的游戏中，不停下注的金额大幅超过专科东说念主士以往所见过的限制。

他认为这个机器东说念主犯了个失实。最终，它极地面防碍了专科东说念主士的稳固性。想想看。一台谋略机防碍了东说念主类在其方法上的稳固性，以至于他们在一定程度上现在在比赛中过度下注。

是以这是两个例子，如果我们认为预西宾受到我们所给定数据集的限定，如果我们莫得合成数据生成才智，这里有两个例子，算法在东说念主类学问的范围以外作念了一些事情。而这一直让我对大型讲话模子自己就能达到超等智能这一不雅点感到困惑，因为从功能上讲，它们受到我们事前给定数据量的限定。

是以，如果你有这样的例子，即算法能够超出其领先所受的限定，那是绝顶酷爱的。我还没聪颖到知说念这会将我们引向何方，但我以为接下来要想考的是，如何开脱事前给定的限定？

Chetan

在我看来，我认为了不得的是，这种翻新在好意思国发生的程度，以及在硅谷发生的程度。自疫情以来，我们经历了艰辛的几年，这简直令东说念主慨叹。我有一位不在硅谷的投资一又友，他只是说，真不敢信托这又在硅谷发生了。它仍是成为了这样一个灯塔，通盘的实验室都集结在这里。

许多从事这些应用门径、这些基础设施公司等等的东说念主都在这里，即便他们不在这里， 也以某种形式与这里筹商联，而且往来往这里造访。我想说，这里对翻新的关心确乎绝顶出色。在东说念主工智能方面，好意思国，特别是硅谷所取得的进展绝顶显赫。我确乎认为，投资者和企业家现在关心的一个程度是，这个体系是何等脆弱，以及我们需要在多大程度上保护它并不竭对其投资。

而且我认为现在有许多关心点在于翻新是需要受到保护的东西。而且我以为许多东说念主现在都在过问多量元气心灵以确保在好意思国发生的通盘这些翻新不竭造福通盘东说念主。我认为这是一个绝顶乐不雅且令东说念主欢欣的阐发。

Modest

如果申诉属实，鸠合效应是真实存在的。《Transformer》论文得以问世的形式是，有东说念主在走廊里滑着旱冰，听到两个东说念主在议论某事，便走进去，在白板上书写，又有两个东说念主过来，谁知说念其中有若干是虚构的呢。

但从经济学家的角度来看，别有洞天的是，这些东说念主类麇集效应是真实存在的，新冠疫情莫得糟塌它们，居家办公也莫得糟塌它们，而且东说念主们相聚在一王人、想想的会通、多学科的汇注来构建这种更正世界的架构，确乎有其切实的东西。

Patrick

店员们，和你们俩聊天老是很欣喜。能暗里进行此次交流我很庆幸。在公开时势进行也很酷爱。感谢你们抽出时辰。

Modest

天然。

Chetan

谢谢你！

本文来自微信公众号“硬AI”，关心更多AI前沿资讯请移步这里

风险提醒及免责条件 市集有风险，投资需严慎。本文不组成个东说念主投资建议，也未探究到个别用户特殊的投资谋划、财务景色或需要。用户应试虑本文中的任何意见、不雅点或论断是否合乎其特定景色。据此投资，累赘自高。