为啥要用金子修马桶 - 关于AI的一些想法

AI很强大。今天随便在街上问十个人，少说也有七八个会同意。但很少有人知道，建造和运行它要付出多少：从最底层的矿产说起（芯片需要20多种不同的矿物，其中很多开采自政局不稳的地区，且有大量劳工侵权的记录） 到硬件本身的制造（机箱、芯片、线缆），到它所依赖的电力和电网，到贯穿所有这些环节的水足迹，到数据的收集和处理，到训练时烧掉的算力，以及之后它每一次运行、每生成一条回复，都要再烧一次。而在这一切之下，是每个环节的人力劳动和随之而来的伤害。肯尼亚工人以每小时1.32到2美元的报酬为OpenAI标注训练数据，日复一日地阅读关于虐待儿童、人兽性行为和酷刑的露骨文字，留下了持久的心理创伤。AI技术是个强大、昂贵、影响深远的东西。

看看我们正在用AI建的那些常见应用，为什么要把这么珍贵的技术用在那些可能没多少附加价值、还会取代人类劳动、扰乱经济的平庸事情？先把我对社会的另一个疑问放到一边（多快才算够快，多高效才算够高效），我们曾被告知AI会推动人类前进：治愈癌症、模拟蛋白质、真正提升人类的福祉（对此我也想问：活多久才算好，多健康才算够好）。但看看实际的使用数据。OpenAI自己的研究显示，ChatGPT超过70%的消息与工作无关。换一种分法：大约一半的消息（49%）是"询问”（寻求建议或信息）；40%是"执行"，也就是起草文字、做计划、写程序这类任务型工作；剩下的11%是"表达"：个人反思、探索和玩乐。我在大学的读书会上也观察到了这一点。 十一个人中，一个常见的用法是用聊天机器人来应对棘手的人际关系。有用吗？当然有用。但这更接近日常琐事，而不是登月工程。而按流量来看，一些最常用的消费级AI应用是给自拍修脸的美颜滤镜、模拟恋爱关系的陪伴应用，以及给产品照片抠图的背景移除工具。跟治愈癌症实在不沾边。

别忘了，这个世界并不平等。资源的开采，以及技术的获取和收益，都不是平均分配的。这些AI应用的大多数用户，是坐在有空调和干净饮用水家里的人。建造和运行这些为他们服务的模型的代价加速气候变化。但他们不需要操心，因为代价被分摊到了看不见的地方。有一件事是清楚的：如今的AI应用研究最稳的受益者，是投资这些公司的股东。除此之外，我还没有对用户群体做足够的研究，不敢在这里多下结论。但是，让我们把技术用在真正重要的地方吧。

真正重要的地方……我指的是什么？我的一个想法是机器学习很擅长识别历史数据里的模式（这是传统统计模型和今天的transformer共同的基础），包括嵌在数据里的鸿沟和偏见。那不加控制的话，它会探测到这些鸿沟并把它们放大。而如果带着正确的意图使用，同样的模式识别能力本可以帮我们处理这些鸿沟。而真正需要的解法往往不需要用到AI。目前的使用模式可以当作症状来读，它们告诉我们有那些不起眼不时髦但真正需要去做的工作。

美颜滤镜是一个信号，告诉我们社会有审美标准的问题。AI心理治疗聊天机器人是一个信号，指向我们获取真正心理健康服务的障碍：费用、渠道、污名，等等。AI陪伴应用是一个信号，指向我们的孤独流行病，以及人与人之间真实社群和信任的匮乏。当我们伸手去找机器去求助如何拒绝别人、传达对方不想听的消息、把难说的话说出口又不搞砸关系的时候， 这也是一个信号。 这说明我们的教育也许一直在培养知识的容器，而不是心存善意、情绪稳定的、有沟通能力的人。别再给一个坏掉的马桶造金水管了，真正的问题在上游。 整个供水系统出了毛病。

但这只是我的想法。别人呢？这就牵出了我关于AI安全、尤其是AI对齐（alignment）的一个更大的疑问。价值观不是普世的。对于对齐问题，我持一种谨慎的乐观。 因为如果我们连人类彼此之间的价值观都无法对齐，我不知道我们凭什么有信心让机器的价值观和我们对齐。我本质上是个乐观主义者，但气候变化就是摆在眼前的案例。 我们确实取得了进步，可我仍然看不到激励机制转变得足够快、快到能起作用。为气候奔走了一辈子的加拿大环保主义者David Suzuki最近说了类似的话：已经太迟了。

说到价值对齐，Isaiah Berlin是这样说的："我们在日常经验中遭遇的世界，是一个让我们在同样终极的目的、同样绝对的诉求之间做选择的世界。 实现其中一些，就必然意味着牺牲另一些。"价值之间没有共同的度量衡。 更多的正义意味着更少的宽恕，更多的平等意味着更少的自由，更多的智能便利意味着更多的能源消耗。 这个世界不存在清晰的规则告诉你该怎么取舍。人类在整个历史里都没搞明白的事，我们要怎么把它编码进AI模型？我们为什么要在所有难题之上再给自己加这一道？而这恰恰就是Berlin指出的权衡本身。更多的创新意味着更多的复杂性，意味着更多的问题。

这让我想起质量守恒定律。举两个非数字技术的小例子。第一个是热传递：要产出x的能量，投入永远得是x+y，因为做功总有损耗，总有副产物（通常是热）。另一个例子是废弃物处理。焚烧是固体废弃物的标准处理方式，而燃烧有机固废会把碳变成气态的二氧化碳（还有氮氧化物等其他燃烧气体）。污水处理呢，处理过程会产生一种固体副产物，污泥。净化空气时，本来会飘在空中的颗粒物，要么变成固态的灰渣，得收集起来填埋；要么被液体喷雾吸收或发生化学反应，产生湿的浆状副产物，之后再被处理回固态。质量守恒这条物理定律是不偏不倚的。处理并不消灭废物，它只是把废物从一种环境介质（固、液、气）挪到另一种，通常还顺便变了个形态。你可以浓缩它、稀释它、转化它，但那些物质总得有个去处。我感觉技术也是一样。你创造了便利，但便利引发的新问题终究会在某个地方冒出来。任何声称不会如此的承诺，都值得仔细审视。如果你在上游享受着便利，那么下游就有问题，或者在你看不见的更上游。这个观点我挺有把握的，水电是另一个例子，改天再说。

所以我觉得，这应该交给社群自己来决定。什么值得冒险，什么值得权衡，该对齐哪些价值观。也许一条路是撇开大科技公司，学毛利人（Māori）社群已经做过的事：从开源模型出发，让模型承载社群自己的价值观。但开源模型真的开放吗？人们信得过开源模型的能力吗？还是说我们正在走进搜索引擎的老困境：起步成本高得离谱（对搜索来说，索引就极其昂贵），以至于很难出现一个有意义的替代品？我已经不止一次听学术界的人说，如今在计算机领域要做前沿研究，就得进业界。这挺让人惊讶的。研究曾经的顶点在学术界。现在它在利润驱动的公司实验室里。

尽管我认为价值观应该交给社群来决定，我仍然认为有一件事需要共识：我们只有一个地球，它的生态系统是相互关联的。有人会说，稀缺问题的答案是去探索另一个星球，所以他们要造飞船。但那是以留在地球上的其他人为代价的。太空项目的资源和排放，取自所有人共享的地球，而逃离的选项只属于少数人。他们实际上是在未经同意的情况下，消耗属于所有人的资源。