查看原文
其他

OpenAI闹剧之后,人工智能世界将彻底分裂|智涌分析

林炜鑫 智能涌现 2024-02-24

文|林炜鑫

编辑|苏建勋

封面来源|IC photo

现在可以说,Sam Altman突然被OpenAI董事会扫地出门,堪称人工智能世界的“911事件”,该事件可能直接导致这家估值900亿的新巨头摇摇欲坠,从而改变现有的AI竞争格局。

过去四天,700多名OpenAI员工为声援Altman而威胁集体辞职,使这家本已遥遥领先的人工智能公司陷入一片混乱。但是,仍有一个最基础的问题没有被解答:

为什么董事会要开除Altman?


△Sam Altman

在那封公开声明中,董事会只是隐晦地表示,“Altman和董事会的沟通中没有始终如一的坦诚,阻碍了董事会履行职责”,却始终没有透露具体原因。而错愕的OpenAI员工透露,过去的这个周末,董事会本来有足够的时间向员工披露解雇真相,却几乎没有任何沟通,这激起了大家的愤怒。

Business Insider报道,11月19日夜里,OpenAI召开一次员工会议。OpenAI首席科学家、董事会成员Ilya Sutskever跟员工提供了两个理由。一是Altman曾让OpenAI的两位员工同时进行同一个项目;二是Altman据称对董事会的两位成员就某个员工表达了不同的观点。这些解释无法让员工接受,因此在会议结束后,员工签署了震惊科技圈的公开信。

董事会投票赶走公司创始人的操作,已经很多年没有在科技圈出现过。此事发生之前,OpenAI奇特的公司架构,曾是Altman引以为傲的设计——董事会6人,有3人是非公司成员的独立董事。Altman想通过独立董事来保证公司不会偏离通往AGI、造福全人类这一创业使命,而不是沦为赚钱机器。

消息人士透露,Ilya越来越担忧OpenAI的技术可能造成极度危险的局面,他觉得Altman对待AI应该更加谨慎。外界猜测,这可能是Ilya在董事会投票中决定开除Altman的本质原因。


△llya Sutskever

人工智能自诞生以来,便有激进派与保守派之分。保守派中最大的声量来自“人工智能教父”、英国教授Geoffrey Hinton。他是卷积神经网络理论的领军人物,30多年不断尝试构建更强大的神经网络,这些努力为今天的人工智能模型奠定了基础。

然而当AI涌现出不可思议的能力时,Hinton却开始担忧这项技术可能的危害。他不止一次对外界警告,AI可能会有独立思考的意识,甚至试图接管或消灭人类文明。今年Hinton从Google退休,并再次向社会发出关于AI威胁的呼吁。

Ilya是Hinton最得意的弟子之一,时至今日仍与Hinton保持密切的沟通,自然也接过了AI保守派的大旗。

今年7月份,Ilya在OpenAI内部推动一项名为“超级对齐计划”的项目,计划在未来4年内解决AI与人类对齐的问题,确保技术符合人类利益。所谓的超级对齐,其实是一种更加务实的办法。既然人类已经跟不上AI的带宽(比如对文章的总结,人需要十几分钟,AI只需几秒),就让AI尽量适配人类的带宽。

从Ilya为数不多的采访能看出,他把相当一部分的工作重心放在了AI安全上。OpenAI于2022年11月推出ChatGPT,Ilya当时并不看好这个产品,他曾经告诉记者,“我不知道它有什么好的,我觉得它平淡无奇,以至于人们会说,你们为什么做这个东西,太无聊了。”

在Ilya心中,做一个AI产品不是优先级,他最看重的事是AGI(通用人工智能)。

接受《卫报》采访时,Ilya说,AI将有能力解决就业、疾病和贫困等社会问题,但也会产生新的问题,比如假新闻、网络暴力、AI武器,甚至是独裁政权。他眉头紧锁,显得非常谨慎。

而OpenAI过去一段时间实现的技术突破,可能已经让Ilya深感不安。据彭博社报道,Ilya最近在内部开始抨击Altman,对他快速扩张OpenAI的行为感到愤怒。由于Ilya主张控制AI能力,也使自己的角色在公司逐渐被边缘化。

Ilya对AI的担忧,让人想到了“EA(Effective Altruism 有效利他主义)”。这个理论源自2009年,致力于筹资去做最有效的拯救生命的事业,比如给疟疾病最严重的国家捐赠防蚊蚊帐。近几年,EA开始关注人工智能,号召不惜一切代价阻止人工智能的发展。


△EA的logo

值得注意的是,OpenAI三名独立董事中有两人与EA有关联。其中,Helen Toner就职过的机构大多由EA信徒资助,而Tasha McCauley和丈夫,以及她的公司老板都是EA信徒。至于第三名董事Adam D’Angelo,他似乎不信奉EA,但他的公司开发了一个类似ChatGPT的聊天机器人Poe。

Altman是OpenAI高层中率先主张商业化的人。虽然他在多个场合表达了对AI的担忧,也提出政府应该监管人工智能产品,但他在推进OpenAI的发展上毫不含糊,也不那么教条主义,最新的成果便是OpenAI的首届开发者大会,瞬间消灭了一大批还在追赶的创业公司。大会结束后,Altman承认内部已经在研发GPT5,并且要继续筹集资金和资源。

时间追溯回2022年夏天。硅谷兴起了名叫“e/acc(有效加速主义)”的理论,本质上是相信人工智能革命(以及一般的技术创新)无法阻止,试图阻碍它的发展是一件很傻很鲁莽的事,甚至很危险。这套理论认为,每个人都应该尽快加入技术革命,共同迎接一个美丽的奇点未来。

起初,e/acc只是得到推特上很多匿名用户的支持,被用来反驳人工智能威胁论。逐渐的,许多硅谷的精英和掌权者,比如YC总裁Garry Tan,开始拥护这套理论,甚至把e/acc加进社交账号名称的后缀里。一篇宣言式文章表示,要向任何阻碍技术进展的力量宣战。作者认为解决当前社会问题的唯一方式就是靠边站,继续推进技术发展。

The Information报道,今年9月17日,e/acc的忠实信徒们举行了第一次线下聚会。11月8日,趁着OpenAI开发者大会的余波,数百名e/acc信徒又相约聚在旧金山的一家夜店里。

Altman几乎没有公开谈论过e/acc,但有人怀疑他疑似用小号给e/acc理论站台。考虑到他带领OpenAI不断制造惊喜,极大鼓舞了e/acc信徒们的士气。

而OpenAI董事对Altman的突袭,也让Altman成为e/acc阵营的新的代言人。著名科技投资者、e/acc信徒Marc Andreesen将此事形容为AI“厄运者(doomer)”与“安全主义者(safetyist)”对e/acc的胜利。

有趣的是,新上任的OpenAI CEO Emmett Shear,便是一名AI厄运者和安全主义者。从Shear在X上的帖子可以看出,他跟几名独立董事在人工智能上的立场极为相似,明确表示希望减缓AI的发展速度,并且要与硅谷的e/acc们划清界限。


△11月19日Shear的帖子

实际上,人工智能的安全性和商业化的分歧,始终困扰着OpenAI。如果往前追溯,这不是第一次由路线之争引发的人事动荡。2018年马斯克一怒之下和OpenAI断绝关系,2020年一群员工从公司离职,创办了竞争对手Anthropic,导火索皆是如此。

区别在于,此前两次出走发生时,OpenAI尚且是一家还没折腾出水花的初创公司,规模远不如现在。今天的OpenAI,逐渐坐稳人工智能公司头把交椅,成为了科技圈顶流。

这场闹剧的走向让人困惑,Ilya起初被视为Altman的反对者,但他发贴致歉,又在声援Altman的公开信上签下自己的名字。有消息透露,Ilya也同意罢免自己的董事会席位。由此看来,现在是Altman与董事会之间的斗争。

11月22日,OpenAI宣布Altman重新成为CEO,而董事会成员有所变化,Helen Toner与Tasha McCauley出局,Adam D’Angelo留任。董事会宣布引入两名新成员。长达五天的“政变”告一段落,Altman大获全胜。

这场“政变”无疑会是人工智能发展的转折点。

AI技术发展的速度超乎人的想象,以至于激进派与保守派,抑或是乐观主义与悲观主义,已经很难在同一家公司和谐共处。至少在思想上,人工智能世界彻底分裂,两个阵营的矛盾将会摆在台面上。

一位网友发贴表示:“所以现在,每家人工智能公司都需要选择自己的信念,是EA,还是e/acc?”


△灵魂拷问

👇🏻 扫码加入「智涌AI交流群」👇🏻

36氪旗下AI公众号

👇🏻 真诚推荐你关注 👇🏻

继续滑动看下一个

OpenAI闹剧之后,人工智能世界将彻底分裂|智涌分析

林炜鑫 智能涌现
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存