信仰的归信仰，商业的归商业｜AGI是信仰的游戏，还是商业的操纵？｜这场闹剧是GPT-5的内部觉醒，还是造物主的人性精妙设计？

图：在这个月初的一个视频访谈中，Ilya谈到最新的GPT进展给他最震惊的突破是：当和GPT对话时，有那种被理解的感觉。

2023年11月18-19日这个周末，围绕OpenAI的AGI路径控制权，OpenAI的六席位董事会成员中掀起了巨浪滔天，以Ilya Sutskever为首联合三位独立董事为一派，与CEO Sam Altman及总裁Greg Brockman二人组为另一派，展开了一场关乎AGI信仰派与商业派、超级对齐派（superalignment）与有效加速派（e/acc）的权斗，这无疑将是通用人工智能（AGI）历程乃至人类与类人智能史上（𝕀²·ℙarad𝕚g𝕞）浓墨重彩的一页。

AI范儿社区紧密跟踪事态发展，并发布一系列进展文章，详见社区公众号：

剧情一路演进，昨天的文章刚发布，微软CEO Satya宣布，Sam&Greg加入微软专设的AI研究机构；OpenAI董事会则宣布Twitch联合创始人Emmett Shear暂时接任OpenAI CEO。

随后的剧情，正如笔者先前的预测：“围观了这周末大Drama，这里做个大胆的预测：OpenAI就此分裂为二，AGI信仰的少数派和股票期权的多数派。”

人性的底色在这商业与信仰的剧情巨幅波动下，显露无遗。这一切的背后是良心的泯灭，还是道德的沦丧，还是人性的扭曲！

聚集在OpenAI的企业价值观与使命下员工中的一部分，先前为Sam&Greg献爱心表态，在新闻公布后纷纷加码，彻底倒向微软的Sam&Greg AI。最让笔者没有想到的，率先向新主子表态的竟然是董事会先前宣布的临时CEO Mira Murati。

图：任命不到2天的周末临时CEO Mira率先倒向Sam&Greg，并不忘再踩OpenAI一脚：OpenAI is nothing without its people。都是人性啊！

作为智能平方范式研究的AI范儿社区，如何不急于站队与作出草率判断，而是试图寻找一个更高维视角来观察、思考呢？

从𝕏上的时间线信息流中，显然看不到此次发难的主导派的声音、负责OpenAI AGI超级对齐的Ilya Sutskever与Jan Leike，及其它相关内部成员均未有表态，更没有在Sam隔空喊话另起炉灶的召集帖上点赞。

一切都在这个周末快速酝酿，在Sam&Greg掀起的舆论热浪里，不乏有效加速派（e/acc）的声音，以及一众表面上是AGI信仰实际上更看重OpenAI的商业化后的股票期权价值的Sam的跟随者员工表态离职。

当然与AI范儿社区关注的一样，另一种声音逐步浮现：Ilya为何会掀起这场AGI控制权风暴？

这种声音在Elon Musk的一个回复帖里，变得更清晰，毕竟Elon Musk的视角维度、先验知识以及内幕信息有着无人能及的优势。

Elon表示了他对“10月7日Ilya有关于人性中智能价值唯上的质疑”的回复感叹，在好事𝕏友的引用提及下又做了进一步的解释：

事态发展到这里，笔者想起之前看过的最新Ilya视频访谈片段：

在视频片段末，针对主持人问他的什么是他这些年来最为震惊的AI进展，Ilya纠结了很久，最后仿佛说了他能说的，就是：

笔者依稀记得在2个月前的另一篇访谈中（AI范儿社区公众号也做了编译转载），Ilya说的是GPT“略有感觉已经有一段时间了“：

图文相关公众号文章：伊利亚·苏茨克沃尔（Ilya Sutskever）真正想要什么？

毋庸置疑，伊利亚是AGI坚定的信仰者，这种信仰源自于对深度神经网络机器学习持续坚持20年的热爱。最近，他的主要工作已经全面转向超级对齐（superalignment）。在上面视频的这段采访中的Ilya还表示，GPT 的架构 Transformer显然可以让我们走向 AGI。

他还补充道：我们不应该从二进制角度思考“是否足够”，而是“需要付出多少努力，使用这种特定架构的成本是多少”？也许进行一些修改，可以有足够的计算效率优势；专门的大脑区域并未完全硬编码，但具有很强的适应性和可塑性；人类皮质非常均匀。你只需要一个大的统一架构。

笔者的理解Ilya的这番表述是，在artificial neuron基本功能的数字化实现后，然后就是玩neurons的架构组合工程游戏，而AGI的路径显而易见的吧。

对于数字智能的神经网络（neural nets）的表述，从“略有感觉（feeling）“到“被理解的感觉（understood）“，以笔者个人这段时间的理解，这种表述转变的潜台词是：

在GPT-4的交互中，你可能还在迟疑，这GPT表示出来的那种feeling，是它从人类语言中解析得到还是它自己的？但月初的这个下一个版本的GPT给Ilya的感受是一种智能对等的“被理解”的感觉！

这可能是基于数字智能的神经网络（neural nets）的智能的一种飞跃，这种飞跃笔者认为离这种神经网络的自我意识几乎已经很迫近，一旦这样的智能有了自我主张，而人类尚未做好AI安全对齐、打上人性的印记（Imprinting，详见公众号文章伊利亚·苏茨克沃尔（Ilya Sutskever）真正想要什么？），那其中的安全风险不是OpenAI的简单的商业化价值、以及一些员工个人的股票期权价值所能权衡的！

回到周末的OpenAI董事会行动风暴的缘起，可能从上半年Sam组织的全球巡演中，唯一一次Sam和Ilya同台的那次访谈中可以一窥端倪，当时凭笔者直觉，Sam和Ilya的分歧似乎已经存在，而且当时Sam的表情复杂：

限于篇幅，各位有兴趣可以找一下相关的视频看看。

再细想什么触发了这次周五的行动呢？也许可以从前一天Sam在APEC企业家的筹资会议中的一番话可以看出：

这绝非巧合！

但最终的真相还需要当事者本人揭示！

直到本系列文章再次成文，尚未有Ilya的表态，新任临时CEO Emmett Shear在就职声明中说将对离职事件进行调查并对组织变革；不过针对这两天的OpenAI管理层闹剧，众多网友仍然不明就里，连Elon Musk也表示说：最好让大家知道到底发生了什么？

𝕏友@GaryMarcus更是揣测，是董事会的万福玛利亚（Hail Mary）情节：

不过这个揣测和本文的立意是一致的：清除Sam实在是发生了“天大的事“！在AGI信仰与使命，以及群体人性价值面前，商业利益与员工的期权股票价值简直无法相提并论。

这事态的保密程度，连大家一致认为知情的Andrej Karpathy老师也一头雾水。看来只有Ilya和GPT-5知道最终的真相吧！但无论如何，最大的赢家是微软，哦，对了，还有Office套件里的Clippy AI！

最后抛开圣母情结，下面这段来自Fortune的@jeremyakahn ，在Sam回归谈判前发表的精彩分析，也说明当前的局，无论对哪一派而言，都是死局：

“如果OpenAI最终炸毁了世界，它将值得无休止地重读。

OpenAI的公司治理结构旨在使OpenAI筹集成功构建人工智能（AGI）的使命所需的数百甚至数千亿美元，这种人工智能在大多数认知任务上比人一样聪明或更聪明，同时防止资本主义力量，特别是单个大型科技巨头控制AGI”

奥特曼......于2019年与纳德拉达成了仅10亿美元的交易。 从那一刻起，该结构基本上是一颗定时炸弹。 通过转向单一的公司实体微软，获得大部分现金和算力。OpenAI需要实现其使命的力量，它本质上是处理对微软的控制，即使这种控制没有在任何正式的治理机制中编纂。

如果Altman像现在似乎可能的那样回归，董事会辞职，“这将证明Altman的结构失败了——OpenAI既无法从一家大型科技公司筹集数十亿美元，又无法以某种方式摆脱该公司的控制。

如果Altman设计的结构缺陷最终挽救了他在首席执行官的工作，并允许他能够战胜他为保护AGI而建立的董事会，那将是最大的讽刺。”

也许微软作为最大的赢家的这个局，让商业的回归商业，信仰的回归信仰，是最好的安排。

当然对于Ilya来说，如何归拢人心再续前由，相当考验，心情也非常复杂，就在本文发布前，Ilya Sutskever发了如下𝕏文：

随后看到Sam&Greg在这条𝕏文上的点赞，而同时Ilya也署名几乎全公司员工（770余名中的500多，还在继续增加）署名的Mira发起的解散董事会请愿书，位列第12位。

面对分崩离析的OpenAI，Ilya的信仰似乎已经在人性的扑朔迷离前面临崩溃。同时也意识到在作出周五的决定时，已经促成了一个死局：OpenAI这家以伟大的为人类服务的AGI为使命公司，控制权实际上目前在3位独立董事手里！从𝕏文Ilya的表态看，他认为他只是参与，那这是集体决策还是董事会中幕后有人操纵？同时也意味着Sam&Greg&Ilya三人组仍旧有可能再次反转剧情，一切像这个周末什么都没发生那样？

而在此时，6席董事之一的亚当·安杰洛（Adam D'Angelo）：Quora联合创始人兼CEO，在10月26日推出了PoE的Create利润分享服务在这周末闹剧面前显得说不出的突兀：

以笔者周末的一段感叹作为本文的临时结尾：

年轻的Sam，年轻的OpenAI board，以及年轻的AGI！（今天11月21日，离ChatGPT首发就快1周年）

致：永远的人性的善与恶、美与丑！人类智能的造物主对于人性的精妙设计！

也许AGI-硅基智能只能永远achieved internally！（未完待续）

原文链接：相关𝕏文及视频

OpenAI首席科学家的思维世界：超级智能的未来之谜和与机器的融合

OpenAI的AGI信仰与权斗｜站在AGI的十字路口｜从“GPT略有感觉”到“感到被GPT理解”