本周硅谷发生了什么？｜谷歌DeepMind推Imagen2；ChatGPT plus恢复订阅；OpenAI提出用小模型监督大模型
文｜尚恩
编辑｜邓咏仪
一周纵览
本周AI领域涌现多项重要进展。Runway宣布开展通用世界模型研发，旨在通过研究通用世界模型改进其视频生成系统，使其更好地模拟现实世界的互动。谷歌Deepmind推出Imagen 2，一款高质量、逼真的人工智能图像生成器。
Mistral AI发布Mixtral 8x7B专家混合模型，表现优越且推理速度更快。由于获得更多GPU，ChatGPT Plus重新开放订阅，提供更好的用户体验。OpenAI首席科学家Ilya Sutskever入选Nature年度十大科学人物，表彰其在ChatGPT开发中的核心作用。
OpenAI发布新论文，探讨用小模型监督大模型的方法，为未来超人类AI对齐工作提供支持。
Key Points
Runway宣布开展通用世界模型研发
Mistral AI发布专家混合模型Mixtral 8x7B
微软发布27亿参数基座模型Phi-2
因拿到更多GPU，ChatGPT Plus重新开放订阅
OpenAI首席科学家llya和ChatGPT入选Nature年度十大科学人物
OpenAI推Converge 2加速器计划，参与者将获100万美元创业投资
AI创企Glean洽谈2亿美元新融资
AI初创Delphina获李飞飞等750万美元融资
法律AI初创公司Harvey正洽谈新一轮融资，估值7亿美元
谷歌Deepmind推出人工智能图像生成器Imagen 2
实时生图工具KREA AI全面开放
OpenAI新论文：用小模型监督大模型
大事件
Runway宣布开展通用世界模型研发
12月12日晚间，AI视频生成初创Runway宣布开展围绕通用世界模型（General World Models）的长期研究工作，目标是表现和模拟与现实世界中一致的广泛的互动。Runway称，其目前的Gen-2等视频生成系统可以看作是非常早期的通用世界模型，对物理和运动有一定的了解，但在处理复杂的摄像机或物体运动等问题上仍有困难。为了建立通用的世界模型，Runway正在进行几项公开的研究，包括生成环境地图，在环境中导航和交互，捕捉世界和世界中居民的动态，建立逼真的人类行为模型等。
Mistral AI发布专家混合模型Mixtral 8x7B
12月12日，法国AI初创Mistral AI于官网宣布正式发布该模型，名为Mixtral 8x7B，是一个具有开放权重的高质量稀疏专家混合模型（SMoE）。据介绍，该模型采用Apache 2.0许可，在大多数基准测试中的表现都优于Llama 2 70B且推理速度快6倍，测评成绩能与GPT-3.5相媲美，甚至优于GPT-3.5。Mixtral可以处理32k长度的上下文，支持英语、法语、意大利语、德语和西班牙语，具有强大的代码生成能力。具体来说，Mixtral拥有467亿总参数，但每个令牌只使用129亿个参数。因此，它处理输入和生成输出的速度和成本与12.9B模型相同。
微软发布27亿参数基座模型Phi-2
12月13日，微软发布27亿参数的语言模型Phi-2，据称可与规模大25倍的大模型相媲美，该模型目前已加入Azure AI Studio。Phi-2基于Transformer训练，目标是预测下一个单词，它在1.4T个词组上进行了训练，这些词组来自NLP和编码的合成数据集或网络数据集，训练在96个英伟达A100 GPU上耗时14天。Phi-2是一个基座（Base）模型，没有通过人类反馈强化学习（RLHF）进行调整，也没有经过指导性微调。在多个基准测评上，只有2.7B的Phi-2性能超越了Mistral和Llama 2的7B或13B模型，以及谷歌3.2B规模的Gemini Nano 2。
因拿到更多GPU，ChatGPT Plus重新开放订阅
美国时间12月14日，OpenAI创始人Sam Altman发帖表示，因为我们拿到了更多GPUs，OpenAI现在重新开放ChatGPT Plus付费订阅服务的新用户注册。
11月中旬，由于需求巨大，OpenAI决定暂停ChatGPT Plus付费订阅服务的新用户注册，以确保现有用户拥有高质量的体验。当时，OpenAI CEO Sam Altman表示，公司正在“努力”增加其容量，并希望“很快”恢复新用户注册。与此同时，他鼓励有兴趣的用户加入等候名单。
OpenAI首席科学家llya和ChatGPT入选Nature年度十大科学人物
美国时间12月13日，国际顶刊Nature公布2023年度最具影响力科学家10人名单，其中OpenAI首席科学家伊利亚·苏特斯科夫（Ilya Sutskever）作为“AI梦想家”入选，因为他在ChatGPT的开发中发挥了核心作用，同时关心AI的安全和未来。此外，ChatGPT作为非人类首次入选，旨在承认它在模仿人类语言的AI在科学发展和进步中所发挥的作用。（智东西）
OpenAI推Converge 2加速器计划，参与者将获100万美元创业投资
OpenAI创始人Sam Altman在12月14日发推表示，OpenAI创业基金已推出Converge 2加速器计划。该计划面向杰出工程师、设计师、研究人员和使用人工智能重新构想世界的产品开发者。通过技术讲座、办公时间、社交活动以及与领先从业者的对话，OpenAI将一起探索在人工智能前沿建设中最重要的机遇和挑战。此外，参与者将获得OpenAI创业基金100万美元投资，并加入其创立的创造者社区
2021年5月，OpenAI联合微软等投资人成立了规模达到1亿美元的OpenAI Startup Fund，目的是推动医疗、教育、文化等行业的数十家AI初创企业持续发展。2022年12月，OpenAI 进一步启动Converge计划。
融资动态
AI初创Glean洽谈2亿美元新融资
据The Information 12月14日报道，由谷歌前搜索工程师创立的AI初创Glean正在洽谈至少2亿美元（约合人民币14.3亿美元）融资，投前估值达到20亿美元。新投资将使Glean的估值达到去年5月的2倍。截至本季度，该公司的年度经常性收入增值3000万美元（约合人民币2.14亿元），是去年的3倍。
AI初创Delphina获李飞飞等750万美元融资
据彭博社12月14日报道，硅谷AI初创Delphina近日获得750万美元（约合人民币5352万元）融资，由Radical Ventures、斯坦福大学教授李飞飞和Costanoa Ventures等参投。Delphina由两名Uber前数据和工程经理创立，专注于通过Copilot来加速预测AI模型的构建和部署。
法律AI初创公司Harvey正洽谈新一轮融资，估值7亿美元
据The Information 12月14日报道，法律人工智能初创公司Harvey正在洽谈一轮7000万到8000万美元的融资，包括投资在内的估值将达到7亿美元。据悉，这笔融资是其4月份宣布的估值的四倍多。
知情人士称，风险投资公司Kleiner Perkins和个人投资者Elad Gil将共同领投本轮融资，此外现有投资者红杉资本和 OpenAI创业基金也将参与本轮投资。
新玩意
谷歌Deepmind推出人工智能图像生成器Imagen 2
12月13日，谷歌Deepmind推出人工智能图像生成器Imagen 2。据介绍，Imagen 2可以生成迄今为止所有Google模型中质量最高、最逼真的图像，同时严格遵循用户提示。
Imagen 2最初通过谷歌云Vertex AI的Imagen API提供给开发者和云客户。谷歌计划向最终用户提供Imagen 2，但首先希望最大程度地减少潜在的风险和挑战。这包括SynthID（用于标记和识别人工智能生成内容的工具包）等安全措施，以及限制有问题输出的技术保障措施。（AI新智界）
实时生图工具KREA AI全面开放
12月14日，此前一直处于内测阶段的实时生图工具KREA AI，即日起开启公测，免费向所有人开放。KREA AI主要提供实时生成和编辑图像、图像分辨率增强、将Logo转换成视觉错觉、创建一些类似中世纪螺旋AI图像等功能。
前沿研究
OpenAI新论文：用小模型监督大模型
12月15日，OpenAI发布了超级对齐（Superalignment）团队的第一篇论文，展示了从弱到强的泛化，通过小模型监督大模型。研究表明，可以使用GPT-2级别的模型来激发GPT-4的大部分能力，达到接近GPT-3.5级别的性能。这使得研究人员可以在取得迭代式经验进展的同时，调整未来的超人模型。OpenAI同步开源了代码，并且启动了一项1000万美元的资助计划，支持研究人员广泛开展超人类AI对齐工作。（智东西）
论文地址：
cdn.openai.com/papers/weak-to-strong-generalization.pdf
开源代码：
github.com/openai/weak-to-strong
36氪旗下AI公众号