THOUSANDS OF AI AUTHORS ON THE FUTURE OF AI，是关于AI的未来最新和最大规模的一篇调查论文。联系凯瑞（PKCapital2023）获取原文。

这篇论文通过调研2778名在顶级人工智能 (AI) 期刊发表过论文的研究人员（具体包括NeurIPS、ICML、ICLR、AAAI、IJCAI、JMLR），了解一线研究人员对人工智能进展速度以及先进人工智能系统的性质和影响的预测。

总体预测显示，到 2028 年，人工智能系统至少有 50% 的机会实现多个里程碑，包括从头开始自主构建支付处理站点、创作一首与流行音乐家的新歌难以区分的歌曲，以及自主下载和微调大语言模型。到 2027 年，在所有可能的任务中，无辅助机器胜过人类的概率估计为 10%，到 2047 年为 50%。预计到 2037 年，所有人类职业实现完全自动化的可能性将达到 10%，最迟到 2116 年将达到 50%（相比之下，2022 年的调查为 2164 年）。

大多数受访者对人工智能进步的长期价值表示很大的不确定性：虽然 68.3% 的人认为超人类人工智能更有可能带来的好的结局，但在这些乐观主义者中，48% 的人认为至少有 5% 的可能性会出现极其糟糕的结果，例如人类的灭绝。超过一半的人表示，对六种不同的人工智能相关情景有必要“严重”或“极端”担忧，包括虚假信息的传播、对个人自由的监控和不平等加剧。

一、背景和方法

这项调查名为“2023 年人工智能进展专家调查”（ESPAI），是一系列调查中的第三次。前两次分别于 2016 年 [Grace et al., 2018a] 和 2022 年 [Grace et al., 2022] 进行。2023 年调查的参与者数量约为 2022 年调查的四倍，调查范围从两个（NeurIPS 和 ICML）扩大到六个。它还包括几个新问题来探讨未来人工智能系统的性质和各种潜在风险。该调查补充了最近收集公众 [Stein-Perlman, 2023] 和企业领导层 [Chui et al., 2023] 对类似问题的看法的工作。

全套问题可从 AI Impacts [2023a] 获取。大多数问题都通过以下三种方式之一征求回答：李克特量表（沿单轴多项选择）；概率估计；或对未来一年的估计。要求填写答案或数字估计的问题数量较少。

二、主要结论

• AI里程碑：研究人员预测，到2028年，AI将能够自主构建支付处理网站，创作与流行音乐家新歌无法区分的歌曲，以及自主下载和微调大型语言模型。预计到2027年有10%的概率，到2047年有50%的概率，AI将在所有可能的任务中超越人类。

• 任务的可行性：在39项任务中，有35项预计在未来十年内可由AI完成。这些任务范围从创建复杂网站到制作音乐和叠衣服。然而，更复杂的任务，如证明顶级数学定理或解决千禧年奖问题，预计需要更长的时间。其中简单的写代码编程、撰写历史论文等工作，AI在近期就能完全胜任。

• 高级机器智能（HLMI）：预计到2047年有50%的机会实现HLMI，这比之前的估计提前了13年。HLMI被定义为不借助外力的机器能够比人类更好、更便宜地完成每项任务。

• 劳动力全自动化（FAOL）：预计到2116年所有人类职业都能被完全自动化，这标志着AI能力的重大进步。

• AI解释性：对于到2028年最先进的AI系统能否以人类可理解的方式解释其决策过程表示怀疑。

• AI相关问题的关注：如AI助理的错误信息、经济不平等和偏见AI系统等问题被视为值得关注。虚假信息传播、大规模公众舆论趋势操纵、以及独裁者使用AI控制人民等被列为主要关注点。

• 高级机器智能对人类的影响：对于高级AI的长期影响，存在分歧意见。虽然多数人认为积极结果更有可能，但相当一部分人认为包括人类灭绝在内的极端负面结果也是可能的。

• AI导致人类灭绝的风险：调查者普遍认为AI导致人类灭绝或严重削弱人类地位的可能性不容忽视。

• AI安全研究的优先级：绝大多数受调查的研究人员认为，相比目前，应该更加重视AI安全研究，强调了解决与AI相关的潜在风险的重要性。

• AI对齐问题：多数人认为AI对齐问题非常重要，认为它比AI中的其他问题更难，但并不一定认为当前解决它比解决其他AI问题更有价值。

三、总结和展望

• 不确定性和关注点：尽管AI能力有所提升，但对于AI进步的长期价值仍存在大量不确定性。研究人员特别关注包括错误信息、个人控制和不平等在内的挑战。

• 安全研究的需求：该研究强调了更加专注于AI安全和对齐的研究，以减少潜在风险。

• 对AI影响的分歧：尽管存在对AI益处的乐观态度，但对灾难性结果，包括人类灭绝的担忧，凸显了对AI技术的谨慎和伦理发展的需求。

• AI在社会中的角色：这些发现表明AI在未来社会结构中的关键作用，需要强有力的整合、治理和伦理考虑等相关策略。

经过大半年运营，我们AI创投社区已经超过了10000人，其中经过实名认证的会员超过200人，大都来自全球科技大厂、顶尖投资机构和高潜创业企业。

欢迎联系凯瑞（pkcapital2023），与一群志同道合的小伙伴一起探讨。

AI公司

+

OpenAI：人工智能突破的前沿丨员工名册丨董事会丨营销团队丨GPT Store丨科技狂人丨马斯克丨地产生意经丨微软丨投资帝国

Adobe丨Anthropic丨Amazon丨Canva 丨DoNotPay丨Figma丨Google丨Hugging Face丨Midjourney丨Neuralink丨Pika丨Replicate丨Replite丨Runway丨Scale AI丨Shein丨Stability AI丨Vannevar Labs丨Zapier

AI行业

+

AI写作工具丨AI编程工具丨AI客服工具丨AI法律工具丨AI医疗工具丨AI视频工具丨AI搜索工具丨AI合成数据丨AI企业服务丨AI Agent代理丨AI个人助手丨AI生产力工具丨LLMOps市场地图丨AI创始人丨全球高增长AI 50丨AI：即将到来的科技革命丨2023年企业生成式人工智能现状报告丨AI 正推动云计算的下一波增长丨旧金山湾区成为Gen AI早期赢家丨我们离AGI还有多远？丨巨头的AI战争丨欧洲AI创业地图丨AI+浏览器

AI创投

+

创业：

1人团队，百万营收的AI套壳丨如何从零打造一家AI驱动的公司？丨如何独自创办你的初创公司？丨如何通过AI写作实现年入千万？丨值得关注的人工智能初创公司丨如何在6个月内，通过AI月入6万美元？丨你的性格决定创业成败丨从互联网到生成式AI狂潮揭示了哪些不变的真理？丨 如何寻找和评估创业方向？丨CEO如何确定自己的薪水？丨如何分配股权和头衔？丨如何组建和召开创业公司董事会？丨GTM指南丨如何选择VC？丨写商业计划书（BP）丨AI+法律：创业机会地图丨公司估值的艺术

投资：

为什么说Gen AI拯救了风投界？丨全球顶尖VC投了哪些AI初创公司？丨中美AI创投赛道有何异同？丨如何评估AIGC初创公司的竞争优势？丨知名海外投资人谈AI新趋势丨做通才还是专才风险投资人？丨红杉资本如何做投资？丨如何及早识别独角兽创始人？丨风险投资公司如何避免7大陷阱？丨合伙人是怎么炼成的？丨Thrive Capital丨英伟达投资策略CEO丨Souring的艺术