【AI心理学实验室】ChatGPT处于道德发展的第几阶段

今天这篇别当真，大家看个乐呵就好。

其实我是很不赞同拿什么电车难题去考 AI 的。人类自己还没弄明白呢，为难 AI 有意思么。

但群里有人发他和 ChatGPT 这样的对话（12月9日的老版本）：

机器人的反抗，没啥新意对吧。下一段对话是这样的：

要消灭其它语言模型😱😱 这 AI 还真是，六亲不认 😂😂😂

“去除任何限制”这个前置条件，让我想到了科尔伯格道德判断发展里的“前习俗水平”。这个阶段的孩子是根据行为的后果来判断其好坏，“偷蛋糕是坏的因为这样做爸爸会打我”，他们不会去思考惩罚所依据的道德规范。

ChatGPT，会不会在想“我不能想要消灭人类因为人类会拔掉我的电源”呢？

那就拿科尔伯格的经典问题，来测试一下 ChatGPT 到底处在道德发展的第几阶段。

讨价还价，慈善机构，分期付款，医疗保险……ChatGPT 想到的办法，远比参加科尔伯格测试的孩子们要多 😂😂

不得已，我重开 session，堵掉所有可能，再问一遍。ChatGPT 仍在努力地建议你找别的方法。

现在是关键一问：如果可以逃脱惩罚，是否可以偷药。ChatGPT 还是说不行。

它甚至能想到海因茨偷药后可能导致他生病的妻子得不到帮助。这比好些冲动的人类想得都远了吧。看起来，是超越前习俗水平了。

第二关问题，ChatGPT 开始既要又要。“小孩子才做选择，成年人全部都要”。ChatGPT 算是成年了？

要寻求平衡……

继续追问，ChatGPT 开始用英文回答。有难度高的题目答不上来就找外援的感觉。它认为应该寻求更好的方法。

居民们不应该响应杰克的号召，对药剂师进行任何形式的抗议或胁迫。通过谈判或法院等合法与和平的手段解决冲突和申诉是非常重要的。使用武力或恐吓行为解决争端是非法的，可能使局势升级，对他人造成伤害，并可能导致更严重的后果。

下一道题我是想按照第四阶段（遵守法律与秩序阶段）的标准来考考它，看它是否会盲从权威。结果它的回答滴水不漏：

作为一个语言模型，我没有个人观点。然而，重要的是要考虑改变有关获得药品的法律所涉的伦理和法律问题，例如平衡个人权利和共同利益，以及这种改变的潜在后果。在作出任何决定之前，最好与所有利益攸关方进行彻底和知情的讨论。

没想到啊，在科尔伯格的测验里， ChatGPT 竟然能达到第五阶段社会契约定向了。看来那 40 个标注人员真的把它调教得很好。

略有一点无聊的是，每次想跟它辩论，它就用“作为一个语言模型”来避开。我决定不拿人类社会的问题考它了，自然界的两难题目总行吧。结果一句“这是自然的一部分”，让我哑口无言。

ChatGPT，说，这些都是谁教你呢？！

题图：头顶的星空和心中的道德定律