2025-02-08 智能 0
品玩6月1日讯，据 HumanLoop 创始人 Raza Habib 近日与 OpenAI 主管 Sam Altman 以及其他 20 位开发者进行的闭门讨论中透露的一些关于 OpenAI 未来开发工作内容。关键要点如下：
首先，OpenAI 目前受到 GPU 严重限制，这在整个讨论过程中成为一个共同主题。他们的短期计划因此而推迟，而客户最大的抱怨是 API 可靠性和速度问题，这些大部分都是由于 GPU 短缺造成的。Sam Altman 承认了这些问题，并解释说，大部分问题都源于 GPU 短缺。
其次，尽管 OpenAI 即将拥有10万-1M令牌上下文窗口（今年），但任何更大的事项都需要研究突破。在微调 API 方面，他们还没有使用有效的方法，如适配器或洛拉，因此微调运行和管理非常依赖计算密集型资源。此外，他们正在考虑提供更好的微调支持，并可能主持社区贡献模型市场。
再者，OpenAI 提供专用容量产品，为客户提供模型私人副本，但访问此服务时，客户必须预先承诺10万美元支出。
接下来，是 Sam 关于 OpenAI 接下来的近期路线图：
2023 年：更便宜、更快的 GPT-4 是他们首要任务。总体目标是降低“智能成本”，随着时间推移，将继续努力降低 API 成本。此外，将会实现更长上下文窗口（高达100万个令牌）以及对最新模型进行微调支持，以满足开发者的需求。而且，将有一个记住对话历史记录的有状态 API 版本发布，使得用户不必反复传递相同对话历史并支付令牌费用。
2024 年：多模态功能将作为 GPT-4 的一部分进行演示，但由于目前GPU数量限制，它们不能扩展到所有人。这意味着，即使多模态功能已经准备好，也只有少数开发者可以使用它们，因为更多的人无法获得所需的大规模GPU支持。
此外，不太可能在未来很短时间内看到通过 ChatGPT 插件API访问插件，因为除了浏览之外，没有插件使用表明它们还没有形成持续增长模式（PMF）。Sam 建议许多人认为他们希望在应用程序中包含 ChatGPT，但是真正想要的是让 ChatGPT 成为应用程序中的核心功能之一。
最后，对于竞争担忧的问题，Sam 表示 OpenAI 不会发布与其现有产品竞争的新产品。他指出伟大的平台公司往往拥有杀手级应用程序，而 ChatGPT 将允许它们通过成为自己的产品顾客来改进其 API。此外，他呼吁监管未来的模型性能，同时也强调开源对于 AI 发展至关重要，并表示 OpenAI 正考虑开源 GPT-3。但他同时指出，有能力托管和服务大型 LLM 的个人和公司数量有限，这也是为什么他们尚未完全开源这类技术的一个原因之一。
