OpenAI 又一位重量级高管离职创业。
今天凌晨,OpenAI 后训练团队负责人 William Fedus 在 X 平台官宣离职,并计划创办一家专注于利用 AI 发现新材料的初创公司。
据外媒 The Information 报道,Fedus 的前东家 OpenAI 预计将对其新公司进行投资并展开合作。
Fedus 于 2022 年从 Google 加入 OpenAI。作为后期训练主管,他主要负责监督 ChatGPT、OpenAI 的开发者工具和其他产品的模型。
期间,他主导了 OpenAI 多个重要模型的后期训练研发工作,包括但不限于 4o、o1-mini、o1-preview。
在 OpenAI 前后训练负责人 Barret Zoph 离职后,他也因此晋升为后训练团队负责人。论文署名显示,Fedus 是 o1 和 o3 模型的主要负责人之一。
教育背景方面,2010-2013 年,William Fedus 在麻省理工学院获得物理学学士学位。
2013-2017 年,他在加州大学圣地亚哥分校获得物理学硕士学位。随后,他在蒙特利尔大学攻读计算机科学博士学位,导师为 Yoshua Bengio 和 Hugo Larochelle。
值得一提的是,Yoshua Bengio 正是深度学习领域的奠基人之一,与 Geoffrey Hinton 和 Yann LeCun 共同荣获 2018 年图灵奖。
William Fedus 有过多段工作经历,比如曾在 Google Brain 实习工作,研究生成对抗网络(GANs)。
公开资料显示,William Fedus 的研究兴趣包括监督学习、无监督学习和强化学习,致力于构建稳健、可靠的算法。
2018 年,他与 Ian Goodfellow 和 Andrew M. Dai 共同提出 MaskGAN,这是一种用于文本生成的生成对抗网络,通过填补空白来生成更高质量的文本
2019 年,他参与提出了一种无监督图神经网络方法,通过最大化节点表示和图摘要之间的互信息来学习节点嵌入。
2022 年,他与 Barret Zoph 以及 OpenAI 研究员 Noam Shazeer 共同提出了 Switch Transformers。
这是一种通过稀疏激活实现万亿参数模型的高效架构,解决了模型复杂度、通信成本和训练稳定性等问题。
离职消息官宣后,Google AI Studio 产品负责人 Logan Kilpatrick、OpenAI 研究员 Noam Brown 等好友纷纷在评论区送上祝福。
OpenAI 管理层「地震」的同时, 内部的技术研发仍在持续推进。
最近,OpenAI 首席产品官 Kevin Weil 接受了一场采访,再次谈到了 GPT-5 等众多热门话题。他表示,OpenAI 正在整合 GPT 和 o 系列模型,推出更强大的 GPT-5。
但具体的推出时间尚未明确。
GPT-5 将简化模型系列并统一功能集,具备之前各系列模型的所有工具和功能,如处理文件上传、搜索网络,甚至在推理过程中使用 Python 编程等能力。
关于 Deep Research,Kevin 表示这是自 ChatGPT 以来他们推出的最佳产品,能够完成用户无法自行完成的任务。他指出,这种成功是研究、产品、工程和设计团队紧密合作的结果。
对于编程的未来,Kevin 认为,按照当前的发展速度,AI 在编程领域超越人类的时间会比 Anthropic 预测的 2027 年更早,可能会在 2026 年实现。
他指出,当推出 GPT-4 时,它已经是一个非常出色的编程模型,被广泛应用于如 GitHub Copilot 等工具中。然而,与 o1 preview 相比,o1 在编程方面表现得更加优秀,因为推理能力在编写代码时至关重要。
无论是解决难题、填字游戏、数独还是编写代码,一定程度的推理能力都是必要的,能够将问题分解成更小的部分,形成假设并验证或反驳这些假设。
在他看来,今年内 AI 将在竞争性编程标准上永远超越人类,就像 70 年前计算机在乘法运算上超越人类,这也将使软件开发民主化,让更多人能够创建软件。
此外,Kevin 还指出尽管生成内容变得更加容易,但人们仍然会重视那些花费大量时间和精力创作的作品。AI 将改变工作的性质,但不会取代人类的工作,而是补充和增强人类的能力。
对于未来的新工作类别,Kevin 认为几乎所有工作都会被 AI 补充。他还提出了一个具体的创业点子——为每个孩子提供个性化的 AI 导师,以提高教育质量和生活水平。
当被问及是否考虑开发实体产品时,Kevin 表示 OpenAI 已开始关注机器人技术。
尽管具体形式尚未确定,但他认为机器人技术是未来的重要方向。在数字世界实现人工通用智能后,下一步自然是将技术扩展到现实世界,影响物理环境。
附上采访原视频地址:https://www.youtube.com/watch?v=SnSoMh9m5hc&t=88s&ab_channel=Overpowered