尼采与机器

作者：塞巴斯蒂安·桑德恩·格莱夫

译者：吴万伟

道德主义者依据应该的道德基础进行判断，即人或物应该的状态或行动而不是某些人或多数其他人认为的那样。我们都这么做，但道德主义者这样做时往往有走向极端的趋势。道德主义的常见例子涉及到餐桌礼仪或商店排队、交通规则、尊重权威、善意谎言等等。更重要的例子涉及到和平、堕胎、气候变化、婚姻、性、平等、移民等事项。社会和政治上的积极行动主义自然利用道德主义作为动员积极分子以及索取广大民众公开支持的手段来源。因此，道德主义带来的影响其实有好有坏，但它往往很浅薄，因而天生存在一些问题。

当今的众声喧哗告诉我们，机器的某些高水平认知或情感能力的可能性---尤其是机器像人一样思考和感受的可能性---是紧迫的道德议题，这成为广泛传播的高眉道德主义（highbrow moralism）的功能。人们认为拥有意识、感受疼痛或痛苦或此类潜能是判定某些东西是否值得进行道德考虑的决定性因素。如果和非人的动物案例类比能说得通的话，这种高眉道德主义的不可救药肯定显而易见。在为动物权利辩护的长期斗争中，这种论证在很大程度上并不成功。过去一些年，动物权利积极分子取得的少数进展并非归功于学界论证而是归功于现场行动的积极行动主义。

这种论证的效果阙如源自如下事实：即使某些认知或情感能力是判定某些东西是否值得进行道德考虑的决定性因素在理论上存在共识，问题仍然依靠涉及到动物或机器的相关潜能的可能出现的另一个理论议题，而这反过来又依靠潜能的性质问题（思维是什么？意识是什么？等等）。

当然，所有这些都是重要议题，但它们是学界议题。我们并不知道，结果可能是某些认知或情感潜能足以让某些东西值得我们进行道德考虑，结果也可能是某个特定动物或机器类别拥有必需的潜能，因而值得我们进行道德考虑。虽然如此，我们仍然远非了解这些东西，与广泛的认识相距甚远。因为在这种话语中，道德是被假定的或者预先设定的东西，在任何确定的时间和任何特定案例中，所谈事物的道德地位是等待我们去发现的事实问题。这个涉及道德本质的最根本假设是我希望攻击的高眉道德主义的本质。真理是我们并不知道道德是否像很多当今撰写机器问题的知识分子设想的那种决定性。他们对这个所谓的道德基础的依赖使其途径非常浅薄。

虽然我们知道很多，但道德或许是这种有时候将我们置于尴尬境地的东西，我们幼稚得就像一群玩耍的孩子，一边走一边制定规则。当然，这样理解的道德其实是很古老的游戏，其规则很大程度上已经制定出来且得到同意了。但是，接着非常清楚的是，既有改进的空间（如涉及到某些非人动物的地位）又可能有必要规定全新法则（如涉及新技术的东西）

19世纪德国哲学家弗里德里希·尼采（Friedrich Nietzsche）认为19世紀末特徵的欧洲文化需要来一场价值观革命。正如他看到的那样，欧洲大陆基督教价值观的快速衰落已经留下越来越大的文化和道德真空需要被填补。为此目的，尼采写了若干强有力的书一样长的研究著作包括英文译本《朝霞:关于道德偏见的思考》(1881)、《善恶的彼岸》(1886)、：《道德的谱系》(1887)、《偶像的黄昏》(1888)等。在他职业生涯中最多产时期的这些著作中，他提供了对传统道德详细而广泛的批评，并提出了一套完全不同的全新价值观。

对生命的确认或许是尼采提出的一个最重要的价值观。从他的《快乐的科学》 (1882)开始，他考虑了强大思想实验的隐含意义。他问，“如果将来有个白天或晚上，一个恶魔偷偷潜入你最深切的孤独之中，并对你说了下面这些话，该怎办办呢？”

“你现在过的生活和一直生活的经历，你将重新再过一次又一次，一再重复无数次，生活中没有任何新鲜事，而你的每个痛苦、每个快乐、每个想法、每次叹息和生活中一切难以言说的大事小情肯定会回到你身边，而且连出现的前后顺序都一样---甚至这只蜘蛛和树丛中的月光，甚至此时此刻和我自己都是如此。存在的永恒沙漏一次又一次颠倒，而你随着它颠来倒去，恰似一粒灰尘。”

尼采继续说，“你听了这恶魔的话，是否摔倒在地上，咬牙切齿地诅咒这个恶魔呢？还是心甘情愿地主动成为你自己，迫不及待地渴望变成自己生命的模样，确认这个生命，并最终留下永恒的印记。”

尼采自己的这个思想实验---人们常说的同样事情永恒轮回出现的可能性---促使他将赋予确认生命极高的价值。他认为，生命值得在我们的价值观体系中占据比传统所赋予的更高的价值地位。尼采的替代性价值观体系的确切性质不是本文关注的焦点，同样，无论他的道德观是等同于一种现实主义还是反现实主义，是客观主义还是主观主义等等，我们不做评论。现在的论证并不是涉及这些问题，相反，当前论证的要点是，我们一定不能等待这些学术议题最终找到解决办法。我们能够而且必须在不确定性条件下就采取行动。对于这种不确定性程度，我们一定不能抱有任何幻想。我们不知道道德的决定性是否如此巨大以至于所有事情的道德地位只能等着我们去发现。尤其是，我们不知道机器的道德地位或非人动物的道德地位或许不是我们能决定去创造的东西。

这不是呼吁采取政治积极行动主义。那将预设特定种类价值观的存在，虽然我们都知道，它们可能不存在，因而恰恰是本文反对的那种道德主义的例子。但是，它的确呼吁思想上的积极行动主义。因为除了道德视角过高估计我们现有知识水平之外，它的另一个问题是天生的无能；这个视角隐含着在说到在道德上是非问题时，我们无能为力，这将导致即便不是灾难性后果，至少也是道德荒谬的结果，比如假设道德主义在某种程度上盛行，有人“发现”所有拥有某种认知能力或情感能力的机器值得拥有我们现在所知道的人权，那么，否认它们的自主繁荣就是不道德的，即使这可能导致人类的毁灭。

因此，虽然来自当今撰写机器问题的某些知识分子的高眉道德主义学界论证来不大可能说服任何通情达理之人，我们只能希望它们实际上遭到广泛拒绝。人类物种的毁灭不应该成为虚假道德命令或对此命令的不成功搜索的后果。有些并不那么具有戏剧性的后果已经足够糟糕了。当前技术革新的现有速度将导致某种文化衰落或许不可避免。但是，生活在星球不同地区的人有清晰的文化差异，无论是在个人层次上还是在社会层次上，这都说明更加切实可行的途径可能导致更高的适应性，因而文化发展也会更加健康。

涉及机器伦理学和形而上学的学术话语将继续处于人类持续追求文化和技术进步的核心地位。但是，知识分子一定不仅仅需要解释世界而且要试图改变这个世界，哪怕仅仅是依靠用适当方式表达适当种类的观点。将计算机器纳入人类社会并不只是未来的场景，而是已经正在发生的变化。这个场景可能很漫长，未必总是引人注目，但肯定经过激烈的斗争和社会和政治博弈。

 虽然当今一代机器既不是特别聪明也不是特别迷人，但它们已经快速占据我们世界的很大部分。当今，科学、商业、政府以及普通民众都面临困难的现实问题。甚至就机器的道德地位问题而言，未来也很快到来了。高眉道德主义既不会阻碍也不会加快这种发展势头。

人们渴望最好的可能生活伴侣，如果机器能成为比人更好的伙伴，有些人在选择保姆、玩伴、朋友、情人、性伙伴等时，可能去选择机器而不是人。有人已经在这么做了。鉴于这种发展趋势，越来越多的人渴望将道德权利扩展到机器恐怕只是时间问题。也许过不了多久，将可能存在争取机器权利运动而不是现有的争取动物权利运动，而且这种运动的威力可能要强大得多，因为机器的潜力显然更厉害。无论是从文化还是个人角度看，最好的准备将是比现在更好和更加深入的反思性实践，能干的知识分子需要尝试和有效推动这个事业---以便人类或许至少可以更清楚明白地了解我们真正渴望的机器生活是什么样子。