Home

Come for the tool. Stay for the context. Pay for the compute.

Benedict Evans 不再像之前那样频繁发文,但却总是一针见血。最新的 文章 关于 Apple Intelligence 抓住了 Apple 对待 AI 不同看法。

Evans 认为,Apple 将 LLM 视为商品化的基础设施,而不是平台或产品。这与「人工智能极端主义者」(AI Maximalists)的观点形成鲜明对比——他们认为 AI 将会吞噬软件。而 Apple 的战略重点是将 Gen AI 嵌入操作系统中,并将其分解为单个功能,并用端侧模型来实现高性能的推理计算。这种方法在算力和能源消耗上都显然是更优的解法。

另外值得关注的一点是:Apple 虽然也推出了自家训练的基础模型,但这个模型并不直接接受原始 prompt 的输入和输出,而是融合在各种 app 的 UI 中,比如电子邮件的「优先级」或摘要等。类似的处理方法也出现在 Arc 等新一代的软件设计中。

这显然不是 AI 吞噬软件的情景。

在被问及 Apple 与 OpenAI 的合作模式时,Apple 暗示合作类似于 Google 通过付费方式获得 Safari 上的默认搜索引擎位置。

Apple 对 AI 的态度反映了 LLM 在激烈竞争中走向 commodity 的趋势,而这种演化的结果就是它将以被集成而非集成的方式呈现在最终用户面前。Evans 善于用技术历史来做类比:拼写检查器曾经是单独收费数百美金的从独立软件产品,而现在,它仅仅是一个免费提供、自动运行在文字处理软件上的不起眼的按钮。

Evans 在本文中提出的一个重要观念是 Context Model vs. World Model:

苹果区分了两种模型,一种是利用端侧和 Apple「私有云」中的用户数据的「上下文模型」,另一种是提供类似 ChatGPT 等开放式提示词的「世界模型」。上下文模型旨在根据用户上下文为功能提供支持,而世界模型则在有限的用户上下文中独立运行。Apple 的方法确保了隐私和对用户数据的控制,并仅在需要时将特定查询定向到由 OpenAI 提供的世界模型。

Evans 提出的一个基本问题是,Gen AI 自身是否能成为一种新的通用工具,将各种功能整合到单个产品中,还是仍然是一种支持不同公司多种产品功能的技术要素。这是一个较少被问起的话题,它与资本市场上的主流叙事相左,后者更期待一个中心化的世界模型,仅由少数公司控制。

我的看法是:

因此,更好的分层模式是:

不能排除,如果 model 进一步被 commodity 化,可能会和 Compute 合二为一。而 Context 层更可能是去中心化的,人类活动所产生的复杂需求难以被一种界面满足。

Chris Dixon 提出的 Come for the tool, stay for the network 将会产生新的演化形式,暂且认为是:

Come for the tool. Stay for the context. Pay for the compute.

为工具而来,留在上下文中,为计算付费。

这就是最简单朴素的模式,但它相当合理,不会过分挑战常识和想象力。

← Back to Newsletter Archive