本文由 简悦 SimpRead 转码， 原文地址 kill-the-newsletter.com
本周的主题是 Managed 规制。
本周的主题是 Managed 规制。
如果技术是新的生命，那么它会受人类的规制吗？
GPT、科技、人类的生产、知识与未来 by Tuzhuxi
本文是 tuzhuxi 关于 GPT 主题的多篇评论中的两篇（标题链接了「上」，「下」在这里）。和之前的几篇评论不同，这篇的视角更高，并没有纠结在意识形态的讨论上，而是去讨论人和 AI 之间的关系。这就吸引人多了。
首先，问题的提出：
ChatGPT 等工具会提高人的工作效率和产出。但它会让人类使用者自身变得更 “聪明”，还是 “更笨”？更 “强”，还是更 “弱”？
此问题的核心，不在于人类使用者有了 AI 的助力之后，可能做成什么事情，而是：有了 AI 的助力，以及对 AI 形成了依赖之后，人类自身的能力会如何发展。
这个问题的角度无疑是更深入的，在二阶思考的基础上，再次提出了一个假设：人类对 AI 形成依赖之后的发展。作者没有展开论述，为什么一定会产生依赖；读者在读的时候，也要注意这个逻辑上的跳跃，避免被后面的推理直接带走。
作者认为，现代人类的生存高度依赖技术与知识体系，这个观点更好的理解方式是从反面来看的，也就是说现代人类作为个体的能力在减弱，但作为整体的能力在增强。作者在文中做了一个思想实验：假设把 500 个人丢到一个荒岛上，他们能否生存下去？结论是，因为失去了强大的社会基础设施，这些人无论个人能力多么强大，500 个人的文明都会很快坍缩回到近乎原始社会的状况。
作者随后举出了几个例子：
- 电子计算器：它不会增加普通人的算术能力，对计算器的依赖可能减弱普通人的计算能力。但基于此，人们能够释放更多的「脑力」，每个人都可以把更多的时间和精力放在更加重要的事情上，进而为个体和社会带来整体收益。
- 翻译机：给人们很大的语言赋能，但翻译机的普及不仅不会增加人们实际的外语能力，还会减少人们学习外语的动力。此外，翻译机的推广还有一个效果，就是人们始终在用自己的语言理解外国人的言说和表达，这就减少了人们通过语言结构去理解对方，并加深对自身文化认识的一个重要途径。但是，如果翻译机真的能够打破语言隔阂，让所有人对话，那么它对人类文化的贡献肯定是利远大于弊的：人们可以通过全面的信息交流获取更多、更丰富、更有价值的信息。
- 互联网：知识的「可得性」提升，稀缺性降低，人们开始把注意力转移到不断训练、优化自己复制、加工他人知识与信息的能力，而整体的知识创造仍然是少数人在做的事情。整个社会最终能够实现突破现有知识体系的，是少数能够站在互联网肩膀上的人。
以上的 3 个例子都验证了一个观点，也就是要分开个体和整体来讨论技术的价值。任何一项技术都可能对个体是一种减弱，但对整体是一种增强。作者总结道：
科技表面上看是公平的、“民主的”、无歧视的。但应用到个体身上，科技一定是有选择、有歧视的。并非所有人都是受益者。有赢家，就有输家。
这让人想起，William Gibson 在小说「 神经漫游者 」里面写过的名言：未来已来，只是分布不均。
在下篇中，作者开始展开对 GPT 的讨论。概括起来，有如下几个主要观点：
- 结果输出型：给出问题，就能直接输出的答案，还能对信息加以分析，以及进行一定程度的创作。这时就会出现问题，人工智能越强大，人的思维能力反而可能越弱，因为需要高度依赖人工智能。
- 内容内循环：GPT 依托互联网上提供的资源信息，不断的训练、学习、模拟。实质上，和互联网的问题一样，没有创造知识的增量，
- 中人化：ChatGPT 要达到的是受过高等教育群体里的 “中人” 水平，甚至超过中人水平。未来世界，真正的高人是能够驾驭 AI 的（无论利用资本，还是技术，还是政治）；凡人看似也能利用 AGI，但实则是被 AI 驾驭的。结果是，人类智力资源的「两极分化」。
其中「中人化」这个观点的杀伤力无疑是最强的。作者还有一些「困境」推论，比如「内卷」的加剧：
还会不少人处在中间位置：他们刚好落在 AI 代表的平均水平附近，但又不具备引领突破智力边界的能力。这部分人能做的，其实是把大部分脑力用在改良、差异化 GPT 提供的输出。在知识文化与智识的价值创造上，不能说他们完全没有贡献，但他们投入产出比是比较低的。总体而言，他们做的是教科书定义的 “内卷”（involution）。
以及：
未来的意识形态 / 舆论战场将建立在人工智能的基础之上。掌握人工智能技术资源与能力的机构或个人，将通过人工智能影响世界。未来的人们将不知不觉地 “圈定” 在一定的意识形态或价值观 “泡泡” 里，并对此毫无意识，因为这些价值观已经潜移默化地成为他们的一部分。这时，人工智能帮助营造了一个 “楚门的世界”，凡人不仅难以突破边界，甚至不知道存在边界。待 AI 进一步演变，可能人类整体都会被超智能的 AI 圈定在它所设置的 “楚门世界” 里而不自知。
和对艺术创造工作的替代：
人类艺术史的发展演进，人类艺术价值的发现，都是对艺术边界的推进。大多数人是没有这种能力的，毕生停留在模仿、折衷、微观改善的水平。因此他们也不会成为大师，无法在历史上留名。人类艺术史的推进与发展，其实要捕捉所谓的 “outlier”（异类 / 离群者 / 异常者）—— 那些非主流、离经叛道，但对艺术创造和想象产生颠覆影响的人。他们甚至不一定是正常人，可能是精神分裂者。但这样的人，恰恰可能穿越主流，把创作推向新的边界。
再次需要提醒的是，作者的一系列推论都建立在「人类将对 AI 技术产生依赖」的这个问题假设中。这一点是不是会真的发生，还无法论证。在 GPT-4 的这个版本上，无论是计算性能还是计算结果，AI 还没有让我产生严重的依赖，它也带来很多困扰：比如它产生结果的随机性带来了内容输出质量的不稳定，它有点像是一个偶尔调皮的孩子，但又无法真正他直接沟通，这反而带来了困扰和低效。
作者认为，推动人类边界一直一来都是少数人，正如老编辑在即刻上写道：
王小川之前写的那篇文章特别好，ChatGPT 是文艺复兴。文艺复兴是什么，就是巨大的能量隐藏在一个被选中的人脑子里，其他芸芸众生，可以忽略。就像三国里面关云长过五关斩六将，赵子龙长坂坡七进七出，张翼德喝断百万曹军。主角之外全是无所谓的背景。
美国可能实行的大模型监管方案 by Yiqing Fu
本周，网信办发布了《国家互联网信息办公室关于〈生成式人工智能服务管理办法（征求意见稿）〉公开征求意见的通知》。也出现了一些分析解读的文章（对比解读半年两次 AI 监管条例 10 点变化：从强调自律到鼓励创新，支持发展定调！）。几乎在同时间，美国也在研究相应的监管方案，本文是对可能采取的监管框架的一些研判。
在 Axios 的文章 Scoop: Schumer lays groundwork for Congress to regulate AI 这样预测美国国会可能采取的监管框架：
- The identification of who trained the algorithm and who its intended audience is. 识别算法训练者及其预期受众。
- The disclosure of its data source. 披露数据来源。
- An explanation for how it arrives at its responses. 解释得出响应的原理。
- Transparent and strong ethical boundaries. 透明而坚定的道德边界。
这个框架太含混了。大模型的发展变化速度很快，且技术复杂度较高，造成了对监管者而言的可见性很差。某种程度上，全过程全链路的监管几乎是不可能的，或者说其监管成本过高，结果就是无法实施，或者造成创新扼制。
Fu 的文章则更加明确的总结了可能的方案：
- 只会监管一定规模以上的大模型。
- 很难监管大模型如何被使用，所以监管是在训练、模型诞生层面。
- 对算力的监管比较容易，因为 AI 算力成本高（百万到千万美元训练一次）、需要 NVIDIA A100 这样的特殊硬件、硬件生产集中在美国政府有强制力监管的实体。
换句话说，就是管源头，不管应用。大模型训练的成本高昂，尽管观点尚未完全一致，但主流观点认为能够开发训练大模型的机构数量不会太多。因此，管住上游可能是监管成本最低的方式。网信办的《征求意见稿》则强调了「主体责任」，实际上也是对上游机构的监管，但这里的机构也包括应用层，但相对弱化一些。
变量可能来自于开源模型。
Stable Diffusion 背后公司的投资人 Jim O’Shaughnessy 认为，生成模型更像是咨询公司而不是 SaaS 公司。Disney、Sony 这样的公司需要根据他们自己的版权内容来生成新内容，但他们并不愿意自己的版权内容流出，所以 Stable Diffusion 这样的公开模型提供一个基础，他们再在此基础上销售 finetune 模型的咨询服务。
这就意味着，开源模型会以各种各样的形态存在于经济的众多环节。这种去中心化的技术外溢会极大的提高监管的覆盖成本。如果模型应用仅仅发生在某个中间环节，而终端产出又通过了图灵测试，那么监管者实际上无法判断某个主体是否采用了大模型技术，而只能依靠所谓的「道德边界」。
正如我们无法相信机器会告诉我们正确的答案，我们当然也无法相信人类会守住道德的边界。
On Work by Andrew Yang
本文实际上是美国政治家 Andrew Yang 为专栏作家 Derek Thompson 的新书 On Work 所撰写的推荐。本书提到了一个概念 Workism：
Workism is three things. First, it is the belief that, in a time when religion is in decline, more people, especially the elite, are turning to work to provide everything we have historically expected of organized religions. Second, it is the irony then, in a time of declining trust in most institutions like politics and religion, we expect more than ever from the companies that employ us; and that, in an age of declining community attachments, the workplace, has, for many become the last community standing. Third it is a mixed blessing. The gospel of labor creates devoted workers and extraordinary achievements, giving purpose, building routine, and filling time. But our devotion to work can also leave a wake of anguish, with many of its adherents feeling overextended, exhausted and empty.
工作主义包含三个方面的内容。首先，在宗教衰退的时代，越来越多的人，尤其是精英阶层，将工作视为提供我们历史上对有组织宗教期望的所有东西。其次，这是一个讽刺，因为在大多数机构（如政治和宗教）信任度下降的时代，我们对雇佣我们的公司的期望却比以往任何时候都要高；同时，在社区联系减弱的年代，对许多人来说，工作场所已成为最后的社区。第三，这是一种福祸参半的现象。劳动的福音创造了忠诚的员工和非凡的成就，赋予目标，建立日常，并填补时间。但我们对工作的忠诚也可能留下痛苦的痕迹，让许多信徒感到筋疲力尽，精疲力竭和空虚。
这些观点其实并不新鲜了，在 A World Without Work 中有类似的观点。我也在 更少工作的世界中有类似的表述：
任何一种技术在发端的时候，都可能是无心的。技术没有价值观，越是底层的技术，越是如此。技术自身的进化是组合式的迭代，是在无数种可能性中寻找巧合，它必须超越文化、规范和人为赋予的意义，才能产生足够规模的回报。意义这个层面的事情并非科学家的负担，而可能另外的人的工作。这并不是一种我的主观看法，而是事实大抵如此。
上周读完侯世达和桑德尔的表象与本质后，偶然发现了一本新书 God, Human, Animal, Machine，作者是 Meghan O’Giebly，一名哲学家，她从自己使用索尼的机器人小狗 Aibo 的个人体验开始，解读技术、人类和神明之间的关系。
虽然听上去是一本哲学书，但作者的写作是散文式的，里面的确也有一些哲学甚至是神学概念我不是很熟悉，但即便快速跳过去也不是很影响阅读。
作者在开篇不久就讲到了 Disenchantment（去神秘化）的概念：
In the enchanted world, faith was not opposed to knowledge, nor myth to reason. The realms of spirit and matter were porous and not easily distinguishable from one another. Then came the dawn of modern science, which turned the world into a subject of investigation. Nature was no longer a source of wonder but a force to be mastered, a system to be figured out. At its root, disenchantment describes the fact that everything in modern life, from our minds to the rotation of the planets, can be reduced to the causal mechanism of physical laws. In place of the pneuma, the spirit-force that once infused and unified all living things, we are now left with an empty carapace of gears and levers—or, as Weber put it, “the mechanism of a world robbed of gods.”
在这个神秘的世界里，信仰并不与知识相对立，神话也不与理性相矛盾。精神与物质的领域是相通的，彼此之间难以区分。随后，现代科学的曙光降临，使世界成为研究的对象。自然不再是令人惊叹的源泉，而是一股需要被驾驭的力量，一个需要被解析的系统。从根本上说，去神秘化描述了现代生活中的一切，从我们的思想到行星的运转，都可以归结为物理定律的因果机制。我们曾经拥有的充满生机、统一万物的精神力量（pneuma）已不复存在，取而代之的是一副空洞的齿轮和杠杆——正如韦伯所说，“被剥夺了诸神的世界的机制”。
「去神秘化」是过去数个世纪中科学技术对人类认知最大的影响。越来越多的人脱离对神明的崇拜，而开始认为世界运转的原理可以用方程式和坐标系来解析。人与自然的关系发生了彻底的变化，一切都以工程化的思维被重新理解。
人工智能是一种例外吗？量子物理引入的 measurement problem 是不是打破了笛卡尔的传统？这本书来的正是时候。