人工智能会成为新的麦肯锡吗？
Source: Ted Chiang, Will A.I. Become the New McKinsey? May 4, 2023
当我们谈论人工智能时，我们依赖于隐喻，就像我们在处理新的和不熟悉的事物时一样。隐喻本质上是不完美的，但我们仍然需要谨慎选择它们，因为坏的隐喻会让我们误入歧途。例如，将强大的人工智能与童话故事中的精灵进行比较变得非常普遍。这个比喻旨在强调让强大的实体服从你的命令的困难；计算机科学家斯图尔特·罗素（Stuart Russell）引用了迈达斯国王（King Midas）的寓言，他要求他触摸的所有东西都变成黄金，以说明人工智能做你告诉它做的事情而不是你想要它做的事情的危险。这个比喻有很多问题，但其中一个问题是它从它所指的故事中得出了错误的教训。迈达斯寓言的要点是，贪婪会摧毁你，追求财富会让你失去一切真正重要的东西。如果你对这个比喻的解读是，当你被神灵许下愿望时，你应该非常非常小心地表达你的愿望，那么你就错过了重点。
所以，我想为人工智能的风险提出另一个比喻。我建议我们将人工智能视为一家管理咨询公司，就像麦肯锡公司一样。像麦肯锡这样的公司被雇用的原因多种多样，人工智能系统的使用也有很多原因。但麦肯锡（McKinsey）——一家与90%的财富100强企业合作的咨询公司——和人工智能之间的相似之处也很明显。社交媒体公司使用机器学习来让用户粘在他们的内容上。以类似的方式，普渡制药公司利用麦肯锡来研究如何在阿片类药物流行期间“涡轮增压”奥施康定的销售。正如人工智能承诺为管理者提供人类工人的廉价替代品一样，麦肯锡和类似公司也帮助大规模裁员的做法正常化，以此作为提高股价和高管薪酬的一种方式，导致美国中产阶级的毁灭。
麦肯锡的一位前员工将公司描述为“资本的自愿执行者”：如果你想做某事，但又不想弄脏你的手，麦肯锡会为你做。逃避责任是管理咨询公司提供的最有价值的服务之一。老板有一定的目标，但不想因为为实现这些目标而做必要的事情而受到指责；通过聘请顾问，管理层可以说他们只是遵循独立的专家建议。即使在目前的基本形式中，人工智能也已成为公司逃避责任的一种方式，它说它只是在做“算法”所说的，即使最初委托算法的公司也是如此。
我们应该问的问题是：随着人工智能变得越来越强大和灵活，有没有办法防止它成为麦肯锡的另一个版本？这个问题值得从术语“A.I”的不同含义中考虑。如果你认为人工智能是一套广泛的技术，正在向公司推销，以帮助他们降低成本，那么问题就变成了：我们如何防止这些技术成为“资本的自愿执行者”？或者，如果你把人工智能想象成一个半自主的软件程序，解决人类要求它解决的问题，那么问题是：我们如何防止该软件以使人们的生活变得更糟的方式帮助公司？假设你已经建立了一个完全服从人类的半自主人工智能——它反复检查以确保它没有误解它收到的指令。这是许多人工智能研究人员的梦想。然而，这样的软件仍然很容易造成与麦肯锡一样多的伤害。
请注意，你不能简单地说你将构建仅提供有利于社会的解决方案的人工智能。这相当于说你可以通过创办一家只提供这类解决方案的咨询公司来化解麦肯锡公司的威胁。事实是，财富100强公司将聘请麦肯锡而不是你的社会有利公司，因为麦肯锡的解决方案将比你公司的解决方案更能增加股东价值。始终有可能构建追求股东价值至上的人工智能，大多数公司将更愿意使用那种不受你原则限制的人工智能。
人工智能是否有办法做一些超越磨刀霍霍资本主义的事情？请明确，当我提到资本主义时，我不是在谈论货物或服务在市场上以价格进行交换的情况，这是许多经济体系的特征。当我提到资本主义时，我指的是资本和劳动之间的特定关系，即那些拥有资金的私人个体能够从他人的努力中获利。因此，在这个讨论的背景下，每当我批评资本主义时，我并不是在批评销售商品的理念；我批评的是那些拥有大量财富的人能够对那些实际工作的人施加权力的理念。而且更具体地说，我批评的是财富在越来越少的人中不断集中，这可能或可能不是资本主义的固有特性，但绝对是当今资本主义的特点。
目前，人工智能的应用往往意味着分析人类执行的任务，并找到一种替代人类的方式。巧合的是，这正是管理层希望解决的问题。因此，人工智能以牺牲劳动力为代价来助力资本。实际上，并不存在像劳工咨询公司这样促进工人利益的机构。人工智能能否扮演这样的角色？能否为工人而不是管理层提供帮助？
有人可能会说，人工智能没有反对资本主义的任务。这可能是事实，但人工智能也没有加强资本主义的任务。然而，目前它所做的正是加强资本主义。如果我们无法找到办法让人工智能减少财富的集中，那么很难说人工智能是一种中立的技术，更不用说是有益的技术了。
许多人认为人工智能将创造更多的失业，并带来全民基本收入（UBI），作为解决这个问题的方法。总的来说，我喜欢全民基本收入的想法；然而，随着时间的推移，我对在人工智能工作的人建议将UBI作为对人工智能驱动的失业的回应的方式持怀疑态度。如果我们已经有了全民基本收入，那就不一样了，但我们没有，所以表达对它的支持似乎是开发人工智能的人将责任转嫁给政府的一种方式。实际上，他们正在加剧资本主义制造的问题，期望当这些问题变得足够糟糕时，政府将别无选择，只能介入。作为让世界变得更美好的战略，这似乎令人怀疑。
你可能还记得，在2016年大选前夕，女演员苏珊·萨兰登（Susan Sarandon）是伯尼·桑德斯（Bernie Sanders）的狂热支持者，她说投票给唐纳德·特朗普比投票给希拉里·克林顿更好，因为这会更快地带来革命。我不知道萨兰登对此思考得有多深，但斯洛文尼亚哲学家斯拉沃伊·齐泽克也说过同样的话，我很确定他对这个问题进行了深思熟虑。他认为，特朗普的当选将对体制造成如此大的冲击，从而带来变革。
齐泽克所倡导的是一种政治哲学中被称为加速主义的思想的例子。加速主义有很多不同版本，但团结左翼加速主义者的共同点是，让事情变得更好的唯一方法就是让事情变得更糟。加速主义说，试图反对或改革资本主义是徒劳的；相反，我们必须加剧资本主义最糟糕的趋势，直到整个体系崩溃。超越资本主义的唯一方法是踩下新自由主义的油门，直到引擎爆炸。
我想这是带来更美好世界的一种方式，但是，如果这是人工智能行业正在采用的方法，我想确保每个人都清楚他们正在努力的方向。通过建立人工智能来完成以前由人完成的工作，人工智能研究人员正在将财富集中度提高到如此极端的水平，以至于避免社会崩溃的唯一方法就是政府介入。无论有意还是无意，这都非常类似于投票给特朗普，目的是创造一个更美好的世界。特朗普的崛起说明了将加速主义作为一种战略的风险：事情可能会变得非常糟糕，并且在好转之前会持续很长时间。事实上，你不知道事情需要多长时间才能好转；你唯一可以肯定的是，在短期和中期将会有明显的痛苦和磨难。
我不太相信人工智能对人类构成危险的说法，因为它可能会发展自己的目标并阻止我们关闭它。然而，我确实认为人工智能是危险的，因为它增加了资本主义的力量。世界末日的场景不是制造人工智能将整个星球变成回形针，正如一个著名的思想实验所想象的那样。这是人工智能增压的公司破坏了环境和工人阶级，以追求股东价值。资本主义是一台机器，它将不惜一切代价阻止我们关闭它，而其武器库中最成功的武器是它阻止我们考虑任何替代方案的运动。
有时候，批评新技术的人被称为卢德派，但澄清一下卢德派实际上追求的是有益的。他们主要抗议的是工资下降，同时工厂主的利润和食品价格上涨。他们还抗议不安全的工作环境、童工的使用以及销售次品商品破坏了整个纺织行业的信誉。卢德派并非盲目破坏机器；如果机器的主人给予工人高薪，他们会不加干涉。卢德派并不反对技术；他们追求的是经济公正。他们破坏机器是为了引起工厂主的注意。现在将“卢德派”这个词用作侮辱，指责某人不理性和无知，是资本势力进行的抹黑活动的结果。
每当有人指责他人是卢德派时，值得问问，被指责的人真的反对技术吗？还是他们支持经济公正？而发起指责的人真的支持改善人们的生活吗？还是他们只是试图增加私人资本积累？
今天，我们发现自己处于一种技术与资本主义混为一谈的境地，而资本主义又与进步的概念混为一谈。如果你试图批评资本主义，你就会被指责反对技术和进步。但是，如果进步不包括为工作的人提供更好的生活，那么进步甚至意味着什么？如果节省下来的钱除了进入股东的银行账户之外没有去任何地方，那么提高效率的意义何在？我们都应该努力成为卢德派，因为我们都应该更关心经济正义，而不是增加私人资本积累。我们需要能够批评技术的有害使用——包括使股东而不是工人受益的使用——而不是被描述为技术的反对者。
想象一下一个理想化的未来，再过一百年，没有人被迫从事他们不喜欢的工作，每个人都可以将时间花在他们认为最具个人满足感的事情上。显然，我们很难看到如何从现在实现这一点。但现在考虑一下未来几十年可能出现的两种情景。在其中一种情景中，管理层和资本势力比现在更加强大。而在另一种情景中，劳工的力量比现在更强大。哪种情景更有可能让我们更接近那个理想化的未来？而且，就当前的部署情况而言，人工智能正朝着哪个方向推动我们？
当然，也有人认为，从长远来看，新技术提高了我们的生活水平，弥补了它在短期内造成的失业。这一论点在工业革命后的大部分时间里都很重要，但在过去的半个世纪里，它已经失去了力量。在美国，人均GDP自1980年以来几乎翻了一番，而家庭收入中位数则远远落后。这一时期涵盖了信息技术革命。这意味着个人电脑和互联网创造的经济价值主要是为了增加前百分之一的顶层百分之一的财富，而不是提高整个美国公民的生活水平。
当然，我们现在都有互联网，互联网是惊人的。但房地产价格、大学学费和医疗保健费用的上涨速度都快于通货膨胀。1980年，靠单一收入养活一个家庭是很常见的。现在很少见了。那么，在过去的四十年里，我们真正取得了多少进展？当然，网上购物既快速又容易，在家看电影也很酷，但我认为很多人会愿意用这些便利来换取拥有自己房子的能力，送孩子上大学而不会背负终身债务，去医院而不会破产。收入中位数跟不上人均GDP的步伐并不是技术的错；这主要是罗纳德·里根和米尔顿·弗里德曼的错。但一些责任也落在了像杰克·韦尔奇（Jack Welch）这样的首席执行官的管理政策上，他在1981年至2001年期间经营通用电气，以及麦肯锡等咨询公司。我并不是把财富不平等的加剧归咎于个人电脑——我只是说，更好的技术必然会提高人们的生活水平的说法不再可信。
在考虑人工智能可能带来的好处时，个人电脑没有提高收入中位数这一事实尤其重要。人们经常建议，研究人员应该关注人工智能可以提高个体工人生产力的方法，而不是取代他们；这称为扩充路径，而不是自动化路径。这是一个有价值的目标，但就其本身而言，它不会改善人们的经济命运。在个人计算机上运行的生产力软件是增强而不是自动化的完美例子：文字处理程序取代了打字机而不是打字员，电子表格程序取代了纸质电子表格而不是会计师。但是，个人电脑带来的个人生产力的提高并没有与生活水平的提高相匹配。
技术能够提高生活水平的唯一方法是制定经济政策来适当地分配技术的好处。在过去的四十年里，我们没有这些政策，除非我们得到这些政策，否则没有理由认为人工智能即将取得的进步会提高收入中位数，即使我们能够设计出增加个体工人的方法。人工智能肯定会降低劳动力成本并增加企业的利润，但这与提高我们的生活水平完全不同。
如果我们能假设一个乌托邦式的未来即将到来，并开发用于未来的技术，那将是很方便的。但是，一项给定的技术在乌托邦中有所帮助这一事实并不意味着它现在有用。在一个乌托邦里，有一台机器可以将有毒废物转化为食物，产生有毒废物不会成为问题，但是，在此时此地，没有人可以声称产生有毒废物是无害的。加速论者可能会争辩说，产生更多的有毒废物将激发废物到食品转换器的发明，但这有多令人信服？我们在当前可用的缓解措施的背景下评估技术对环境的影响，而不是在假设的未来缓解措施的背景下。出于同样的原因，我们不能通过想象人工智能在一个有UBII的世界里会有多大帮助来评估人工智能；我们必须根据资本 和劳动力之间现有的不平衡来评估它，在这种情况下，人工智能是一种威胁，因为它帮助资本的方式。
在一位前麦肯锡合伙人为公司的行为辩护时，他说：“我们不从事政策。我们从事执行。”但这个辩解显得站不住脚；当咨询公司或新技术提供实施政策的方式时，有害的政策决策更有可能出现。当前正在开发的人工智能版本使企业更容易解雇员工。那么，有没有办法开发一种让这种情况变得更困难的人工智能呢？
社会学家埃里克·奥林·赖特（Erik Olin Wright）在他的《如何在21世纪成为反资本主义者》（How to Be a Anticapitalism in the 21st Century）一书中，对应对资本主义危害的策略进行了分类。他提到的两种策略是粉碎资本主义和瓦解资本主义，这可能不属于本次讨论的范围。这里更相关的是驯服资本主义和抵制资本主义。粗略地说，驯服资本主义意味着政府监管，抵制资本主义意味着草根激进主义和工会。人工智能有没有办法加强这些东西？人工智能有没有办法赋予工会或工人拥有的合作社权力？
1976年，英国伯明翰卢卡斯航空航天公司的工人因国防开支削减而面临裁员。作为回应，店长制作了一份名为“卢卡斯计划”的文件，其中描述了一百五十种“对社会有用的产品”，从透析机到风力涡轮机和汽车混合动力发动机，劳动力可以用现有的技能和设备来建造，而不是被解雇。卢卡斯宇航公司的管理层拒绝了这一提议，但它仍然是工人试图将资本主义引向更人性化方向的一个值得注意的现代例子。当然，现代计算技术必须有可能实现类似的事情。
资本主义必须像现在这样有害吗？也许不是。第二次世界大战后的三十年有时被称为资本主义的黄金时代。这一时期部分是政府政策更好的结果，但政府并没有自己创造黄金时代：这个时代的企业文化是不同的。在通用电气1953年的年度报告中，该公司吹嘘它缴纳了多少税款以及它在工资单上花了多少钱。它明确表示，“最大化就业保障是公司的首要目标。”强生公司创始人表示，公司对员工的责任高于对股东的责任。与今天的公司相比，当时的公司对他们在社会中的角色有着截然不同的概念。
有没有办法回到这些价值观？这似乎不太可能，但请记住，资本主义的黄金时代是在镀金时代巨大的财富不平等之后到来的。现在我们生活在第二个镀金时代，财富不平等与1913年大致相同，因此我们从现在的位置进入第二个黄金时代并非不可能。当然，在第一个镀金时代和黄金时代之间，我们经历了大萧条和两次世界大战。加速论者可能会说，这些事件对于实现黄金时代是必要的，但我认为我们大多数人都宁愿跳过这些步骤。摆在我们面前的任务是想象技术如何使我们走向黄金时代，而不会首先带来另一场大萧条。
我们都生活在资本主义制度中，所以无论我们喜欢与否，我们都是资本主义的参与者。我们有理由怀疑你作为一个个人是否可以做些什么。如果你在Frito-Lay担任食品科学家，你的工作是发明新口味的薯片，我不会说你有道德义务戒烟，因为你正在协助消费主义的引擎。您正在利用您作为食品科学家的培训为客户提供愉快的体验；这是一种完全合理的谋生方式。
但许多在人工智能工作的人认为它比发明新口味的薯片更重要。他们说这是一项改变世界的技术。如果是这样的话，那么他们有责任找到让人工智能让世界变得更好的方法，而不是首先让它变得更糟。人工智能能否改善我们世界的不平等，而不是将我们推向社会崩溃的边缘？如果人工智能像其支持者声称的那样强大，那么除了加剧资本的无情之外，他们应该能够为它找到其他用途。
如果我们应该从关于精灵实现愿望的故事中吸取任何教训，那就是不费吹灰之力就能得到东西的愿望才是真正的问题。想想“魔法师的学徒”的故事，学徒施展咒语让扫帚挑水，但无法让它们停下来。这个故事的教训并不是魔法是无法控制的：在故事的最后，巫师回来并立即修复了学徒制造的混乱。教训是，你不能摆脱艰苦的工作。学徒想避免他的家务，寻找捷径是给他带来麻烦的原因。
将人工智能视为一个神奇的问题解决者的倾向表明，人们希望避免建设一个更美好世界所需的艰苦工作。这项艰苦工作将涉及解决财富不平等和驯服资本主义等问题。对于技术人员来说，最艰巨的工作——也是他们最想回避的任务——将是质疑更多技术总是更好的假设，以及坚信他们可以继续按照惯例办事，一切都会自然而然地解决。没有人喜欢思考自己在世界不公正中的串谋，但正在构建颠覆性技术的人必须进行这种批判性的自我审视。他们对自己在这个体系中的角色毫不畏惧地审视的意愿将决定人工智能是否会带来一个更美好的世界还是一个更糟糕的世界。