10/9/2022: Side Effects
本周的主题是 Side Effects 副作用。
上一次的 Links + Notes 更新是关于最近越来越火热的 AI Generated Content 的。在过去几周，我们可以看到在这个领域发生了更多的变化和讨论。AI 这个已经有点庸俗的概念，似乎又在新的方向上燃起火焰。
如果未来的历史学家重新回顾这段技术史，可能会认为，这项技术或许并不是一项技术——至少在应用领域不是。所谓的 AGI（Artificial General Intelligence，通用人工智能）的成熟周期远远比预想的慢，甚至于在这条路线上的挫折几乎影响了一代科学家的研究路径。此后，大量的智力资源投入到了 ANI（Artificial Narrow Intelligence，窄域人工智能）的研究中，其中最显著的应用就是结合移动应用中的各种推荐算法上。
关于 AGI 和 ANI 的研究，A World without Work（Daniel Susskind）一书中有一段形象的比喻（翻译）：
古希腊诗人 Archilochus 曾写道："狐狸知道很多事情，但刺猬知道一件大事"。以赛亚-柏林（Isaiah Berlin）在 Archilochus 现存的诗歌碎片中发现了这句神秘的诗句，他用它作为一个比喻来区分两种类型的人：对很多事情知道一点的人（狐狸）和对很多事情知道一点的人（刺猬）。在我们的环境中，我们可以重新利用这个比喻来思考人类和机器。目前，机器是典型的刺猬，它们每个人都被设计成在某些极其具体、狭义的任务上非常强大——想想深蓝和国际象棋，或者 AlphaGo 和围棋，但在执行一系列不同的任务上却毫无希望。另一方面，人类是骄傲的狐狸，他们现在可能发现自己在某些任务上被机器打败了，但在其他广泛的任务上仍然可以胜过它们。
而技术的进化往往是从一些微小的便利性入手，而在社会范围内制造了巨大的诱惑，进而吸引意想不到的资源与之共舞。推荐算法以人的行为数据为原料，从而建立起一个与其造物主为第一视角的学习基础。只要它稍微有所进步，人们就会或主动或被动的为它增加增加更多的原料。这些对人类并不透明的算法模型不断的把现实卷入其中，然后吐出一些产物来供人们消费。
这种不断扩增的对现实的学习能力是否还是 ANI 的范畴呢？当我们把日常生活、个人态度和社会关系都交给机器学习的时候，机器就逐渐的容纳了我们所生存的现实。「容纳」是无所不在的，它为什么还是 narrow（窄域）的呢？
当我们在考虑一个算法的准确率和召回率的时候，其实就是在讨论它能够以何种准确程度（往往以人的主观评估为校准依据）覆盖多少问题样本。而 AGI 和 ANI 的差别，可能只是在准召上的差别，加以时间的沉淀（真正的学习能力应该可以做到知识的沉淀和累积），最终其差别并非如狐狸和刺猬一样是物种之隔。
那么真正的差别在哪里呢？
一种可能性：推荐算法对现实的理解已经足够好，但它可能缺乏更好的表达来呈现这种理解。
机器算法的上限仍然被限制在有限的候选集中，再好的排序，也可能是小矮人里面拔将军，而这个上限的瓶颈实际上是人类自身。
观感、洞见、共鸣、逻辑，也需要出色的表达和呈现。而人和人的认知与偏好都不相同，机器囿于其候选集，无法给出最佳方案。这能怪谁？
我们尝试把数据告诉人们，你去创造这些那些，而应者寥寥，乏善可陈。
解答或许仍然在机器自身。过去十年，现实被喂食给机器；未来十年，机器或将生成现实。
参考阅读：
- AI 时代的巫师和咒语 by Rokey Zhang - 一篇综合了大量 AI Generated Content 实例和概念梳理的中文内容
- Generative AI: A Creative New World by Sonya Huang, Pat Grady & GPT-3 - 红杉资本的主题研究报告