2025-02-08 智能 0
品玩6月1日讯，据 HumanLoop 创始人 Raza Habib 近日与 OpenAI 主管 Sam Altman 以及其他 20 位开发者进行的闭门讨论中透露的一些关于 OpenAI 未来开发工作内容。关键要点如下：
首先，OpenAI 目前受到 GPU 严重限制，这在整个讨论过程中成为一个共同主题之一。由于 GPU 的有限性，一些短期计划被推迟，而客户最大的抱怨是 API 可靠性和速度问题。Sam 承认了这些担忧，并解释说大部分问题都是由 GPU 短缺造成的。
其次，尽管即将实现 32k 上下文窗口，但目前还不能广泛推广给更多人。此外，OpenAI 还未克服 O（n^2）的注意力扩展问题，因此虽然他们很快就会有10万-1M代币上下文窗口（今年），但任何更大的事情都需要研究突破。而微调 API 也受到了 GPU 可用性的瓶颈影响，他们尚未使用有效的微调方法，如适配器或洛拉，因此微调运行和管理非常依赖计算密集型。未来将提供更好的微调支持，有可能甚至主持社区贡献模型的市场。
再者，专用容量产品也受限于GPU可用性。在提供模型私人副本服务时，对于访问此服务的客户必须预先承诺10万美元支出。
接下来，Sam 分享了他认为 OpenAI 的API临时近期路线图：
2023年：更便宜、更快的 GPT-4——这是他们首要任务。总体目标是尽可能降低“智能成本”，因此随着时间推移，他们将努力继续降低 API 成本。此外，将会实现更长上下文窗口，即不久后可能达到100万令牌级别；Finetuning API 将扩展到最新模型，但具体形式取决于开发人员实际想要的是什么；还有一个有状态的API版本，当你今天调用聊天API时，不必反复传递相同对话历史并多次支付令牌费用的烦恼。
而2024年，则重点关注多模态功能，这作为GPT-4版本的一部分进行了演示，但在更多GPU上线之前无法向所有人扩展使用。
最后，由于插件通过API访问ChatGPT引起了许多开发者的兴趣，但Sam表示，他认为这些插件不会很快发布。他建议很多人认为他们希望应用程序中的ChatGPT功能，但真正想要的是应用程序中的ChatGPT功能。在避免与客户竞争方面，也有一些观点表达出来，即使OpenAI最终发布具有竞争力的产品，他们仍然会感到紧张。而Sam强调OpenAI不会发布除了ChatGPT以外的大量产品，他表示伟大的平台公司拥有杀手级应用程序历史，而ChatGPT允许它们通过成为自己产品用户来改进API。
此外，在监管和开源方面也有提法，即使呼吁对未来模型进行监管，但是对于现有模型并不危险，而且监管或禁止它们是一个错误。他重申了对开源重要性的信念，并表示OpenAI正在考虑开源GPT-3。不过，还有一些原因阻止它开放，比如怀疑是否有人或者公司能托管和服务大型LLM。此外，还有关于模型性能扩展定律持续有效的问题，以及缩放假设如何影响AGI发展时间表等议题得到探讨。
