OpenAI的AGI信仰与权斗｜站在AGI的十字路口｜从“GPT略有感觉”到“感到被GPT理解”

图：在这个月初的一个视频访谈中，Ilya谈到最新的GPT进展给他最震惊的突破是：当和GPT对话时，有那种被理解的感觉。

2023年11月18-19日这个周末，围绕OpenAI的AGI路径控制权，OpenAI的六席位董事会成员中掀起了巨浪滔天，以Ilya Sutskever为首联合三位独立董事为一派，与CEO Sam Altman及总裁Greg Brockman二人组为另一派，展开了一场关乎AGI信仰派与商业派、超级对齐派（superalignment）与有效加速派（e/acc）的权斗，这无疑将是通用人工智能（AGI）历程乃至人类与类人智能史上（𝕀²·ℙarad𝕚g𝕞）浓墨重彩的一页。

AI范儿社区紧密跟踪事态发展，并发布一系列进展文章，详见社区公众号。剧情一路演进，截止本文撰写时，经传是OpenAI目前最大单一金主微软CEO Satya出面，撮合Sam&Greg前往OpenAI总部与董事会4位成员谈判。

图：北京时间周一凌晨5点左右Sam发帖佩戴OpenAI访客胸牌等候与董事会谈判

作为智能平方范式研究的AI范儿社区，如何不急于站队与作出草率判断，而是试图寻找一个更高维视角来观察、思考呢？

从𝕏上的时间线信息流中，显然看不到此次发难的主导派的声音、负责OpenAI AGI超级对齐的Ilya Sutskever与Jan Leike，及其它相关内部成员均未有表态，更没有在Sam隔空喊话另起炉灶的召集帖上点赞。

一切都在这个周末快速酝酿，在Sam&Greg掀起的舆论热浪里，不乏有效加速派（e/acc）的声音，以及一众表面上是AGI信仰实际上更看重OpenAI的商业化后的股票期权价值的Sam的跟随者员工表态离职。

当然与AI范儿社区关注的一样，另一种声音逐步浮现：Ilya为何会掀起这场AGI控制权风暴？

这种声音在Elon Musk的一个回复帖里，变得更清晰，毕竟Elon Musk的视角维度、先验知识以及内幕信息有着无人能及的优势。

Elon表示了他对“10月7日Ilya有关于人性中智能价值唯上的质疑”的回复感叹，在好事𝕏友的引用提及下又做了进一步的解释：

事态发展到这里，笔者想起之前看过的最新Ilya视频访谈片段：

在视频片段末，针对主持人问他的什么是他这些年来最为震惊的AI进展，Ilya纠结了很久，最后仿佛说了他能说的，就是：

笔者依稀记得在2个月前的另一篇访谈中（AI范儿社区公众号也做了编译转载），Ilya说的是GPT“略有感觉已经有一段时间了“：

图文相关公众号文章：伊利亚·苏茨克沃尔（Ilya Sutskever）真正想要什么？

毋庸置疑，伊利亚是AGI坚定的信仰者，这种信仰源自于对深度神经网络机器学习持续坚持20年的热爱。最近，他的主要工作已经全面转向超级对齐（superalignment）。在上面视频的这段采访中的Ilya还表示，GPT 的架构 Transformer显然可以让我们走向 AGI。

他还补充道：我们不应该从二进制角度思考“是否足够”，而是“需要付出多少努力，使用这种特定架构的成本是多少”？也许进行一些修改，可以有足够的计算效率优势；专门的大脑区域并未完全硬编码，但具有很强的适应性和可塑性；人类皮质非常均匀。你只需要一个大的统一架构。

笔者的理解Ilya的这番表述是，在artificial neuron基本功能的数字化实现后，然后就是玩neurons的架构组合工程游戏，而AGI的路径显而易见的吧。

对于数字智能的神经网络（neural nets）的表述，从“略有感觉（feeling）“到”被理解的感觉（understood）“，以笔者个人这段时间的理解，这种表述转变的潜台词是：

在GPT-4的交互中，你可能还在迟疑，这GPT表示出来的那种feeling，是它从人类语言中解析得到还是它自己的？但月初的这个下一个版本的GPT给Ilya的感受是一种智能对等的“被理解”的感觉！

这可能是基于数字智能的神经网络（neural nets）的智能的一种飞跃，这种飞跃笔者认为离这种神经网络的自我意识几乎已经很迫近，一旦这样的智能有了自我主张，而人类尚未做好AI安全对齐、打上人性的印记（Imprinting，详见公众号文章伊利亚·苏茨克沃尔（Ilya Sutskever）真正想要什么？），那其中的安全风险不是OpenAI的简单的商业化价值、以及一些员工个人的股票期权价值所能权衡的！

回到周末的OpenAI董事会行动风暴的缘起，可能从上半年Sam组织的全球巡演中，唯一一次Sam和Ilya同台的那次访谈中可以一窥端倪，当时凭笔者直觉，Sam和Ilya的分歧似乎已经存在，而且当时Sam的表情复杂：

限于篇幅，各位有兴趣可以找一下相关的视频看看。

再细想什么触发了这次周五的行动呢？也许可以从前一天Sam在APEC企业家的筹资会议中的一番话可以看出：

这绝非巧合！

但最终的真相还需要当事者本人揭示！

让我们拭目以待！

原文链接：相关𝕏文及视频

OpenAI首席科学家的思维世界：超级智能的未来之谜和与机器的融合