OpenAI再迎人事变动,是否影响GPT开发进展?

 邮箱网  0条评论  1124次浏览  2024年08月07日 星期三 10:43

分享到: 更多

导读:在OpenAI着力攻克下一代模型的挑战的当下,核心人员离职或长期休假,或也反映出OpenAI内部仍存在分歧。

作者 | 第一财经 郑栩彤

北京时间8月6日上午消息,OpenAI再迎高层人事变动。

OpenAI创始团队成员约翰·舒尔曼(John Schulman)在社交平台上宣布,他将离开OpenAI,并加入另一家人工智能创业企业Anthropic。OpenAI总裁、联合创始人格雷格·布罗克曼(Greg Brockman)在社交媒体上宣布,他将休假到年底,未提及可能离职的消息。另有消息称,OpenAI的产品负责人彼得·邓(Peter Deng)也将离职。

此前OpenAI联合创始人兼首席科学家伊利亚·苏茨克沃(Ilya Sutskever)离职后,OpenAI人事仍然不稳。值得注意的是,此次宣布离职的约翰·舒尔曼与伊利亚·苏茨克沃此前都负责OpenAI的人工智能对齐工作。而OpenAI此前已解散“超级智能对齐”团队,约翰·舒尔曼此次离职或意味着OpenAI更不愿重押人工智能对齐。

此外,虽然格雷格·布罗克曼并未透露离职,但在OpenAI着力攻克下一代模型的挑战的当下,核心人员长期休假,或也反映出OpenAI内部仍存在分歧。

再迎人事变动

约翰·舒尔曼表示,作出离开OpenAI并加入Anthropic这一决定是因为他希望进一步关注人工智能对齐,并重返实际技术工作。“我离开并不是因为OpenAI缺乏对对齐研究的支持,相反,公司一直致力于投资这一领域,我的决定是个人决定,我希望在职业生涯下一阶段集中精力。” 约翰·舒尔曼表示。

约翰·舒尔曼表示,到目前为止,除了实习,OpenAI还是他工作过的唯一一家公司,他非常感谢OpenAI CEO萨姆·奥尔特曼 (Sam Altman)和联合创始人格雷格·布罗克曼一开始就招募了他,“相信没有我,OpenAI和我所在的团队也会继续蓬勃发展。”

萨姆·奥尔特曼则在社交平台上回复约翰·舒尔曼,称”感谢你为OpenAI所做的一切,你是一位才华横溢的研究员,一位对产品和社会有深刻思考的人,你是我们所有人的好朋友“。

记者留意到,今年早些时候,OpenAI解散了“超级智能对齐”团队,并于当地时间5月28日成立了一个新的安全委员会,约翰·舒尔曼是该安全委员会的成员之一。彼时OpenAI对他的职位描述为对齐科学主管。

联合创始人格雷格·布罗克曼虽然长期休假,但并未透露离职意向,他仅在社交媒体上表示,这是9年前共同创立OpenAI以来他第一次可以放松。“任务还远未完成,我们仍然需要构建安全的AGI(通用人工智能)。”格雷格·布罗克曼表示。

彼得·邓则还未在社交媒体上提及他离职的消息。彼得·邓是硅谷知名产品经理,曾任谷歌(160.54, -0.10, -0.06%)、Instagram、Facebook、Uber等公司的产品经理,去年加入OpenAI任消费产品副总裁,负责ChatGPT背后的产品、设计和工程团队。在今年早些时候的播客对谈中,他提及AI安全和ChatGPT的价值观时表示,理想(18.94, 0.08, 0.42%)的情况是人工智能能契合每个使用者个人的价值观,这不应该是规范性的,并不是我们想要为ChatGPT灌输什么价值观,而是希望能以某种方式将世界各地的价值观融入到人工智能中。

自去年萨姆·奥尔特曼被OpenAI董事会解雇又重新聘用后,OpenAI人事动荡未止。有传闻称萨姆·奥尔特曼罢免事件与内部对AI安全问题的分歧有关,萨姆·奥尔特曼与伊利亚·苏茨克沃在AI安全和商业化问题上存在分歧。作为内斗风波关键人物,伊利亚·苏茨克沃已于今年5月宣布离开工作了近10年的OpenAI。

此外,OpenAI另一名创始团队成员Andrej Karpathy今年2月已离开OpenAI,并于7月宣布创办了一家AI+教育公司。OpenAI仍在职的创始团队成员越来越少。

是否影响GPT开发进展?

OpenAI再迎人事变动,或意味着OpenAI对AI安全的关注点变化,下一代GPT是否会受人事变动的影响还需继续观察。

记者留意到,据OpenAI描述,此前成立的安全委员会的首要任务是在接下来90天评估和进一步开发OpenAI的流程和保障措施,并在90天结束时与全体董事会成员分享建议,在董事会审查后公开已采纳的建议。按照时间规划,这些建议将在8月底之后公开,而约翰·舒尔曼在此之前就决定离开OpenAI。

在AI安全方面,从OpenAI对新成立的安全委员会的介绍看,该团队的职责与已解散的“超级智能对齐”团队不完全一致。而随着对齐科学主管约翰·舒尔曼离开,这或意味着OpenAI对人工智能对齐方面关注变得更少。

“对齐”的意思是要求AI系统的目标与人类价值观与利益相一致,原本“超级智能对齐”团队的职责包括研究防止AI系统异常的技术解决方案。伊利亚·苏茨克沃曾在采访中提到ChatGPT可能有意识,世界需要清醒认识到他的公司和其他公司正在创造的技术的真正力量。奥尔特曼的看法与之不完全相同,他近期回应称“(前董事会)他们对我和我们所做的事有一些看法,尽管我非常强烈地反对他们的想法。人工智能对齐问题还不能说完全解决,但目前让人工智能系统学会如何按一套价值观行事,效果比我想象的更好。”

约翰·舒尔曼将加入的Anthropic则被认为是OpenAI的头号竞争对手。Anthropic是由前OpenAI研究高管和员工创建的公司,旗下拥有Claude系列大模型。今年6月,Anthropic发布最新模型Claude 3.5 Sonnet,该模型在研究生水平推理 (GPQA)、编码能力 (HumanEval) 、文本推理(DROP)等方面的成绩均好于GPT-4o。

从下一代GPT研发进展看,OpenAI似乎遇到了一些困难。今年7月,萨姆·奥尔特曼称,开发GPT-5还需要一些时间,GPT-5相关的技术仍处于早期阶段,存在数据和算法方面的问题。

随着约翰·舒尔曼离职并加入竞争对手Anthropic、格雷格·布罗克曼休假,核心人物离场对OpenAI研发进展是否有影响还需继续观察。

值得注意的是,OpenAI联合创始人间还另有矛盾。撤诉不到两个月后,曾联合创办了OpenAI的特斯拉(200.64, 1.76, 0.88%)CEO马斯克近日又在美国法院起诉萨姆·奥尔特曼、格雷格·布罗克曼,指控相关人员将商业利益置于公共利益之上,违反了公司的创立合约。起诉书称,萨姆·奥尔特曼等人故意讨好和欺骗马斯克,以共同创立非营利企业OpenAI,但随后用各种手段使之成为营利实体。OpenAI数月前针对马斯克的指控则曾发截图回应,表示马斯克曾同意该公司筹集更多资金、创建营利性组织并逐步放弃开源产品发布的计划。

标签:OpenAI

我的评论:

请  后发表评论。