科学松鼠会的ChatGPT路线图已经公开难道不是明年就能体验它的多模态功能吗

品玩6月1日讯，据 HumanLoop 创始人 Raza Habib 近日与 OpenAI 高级管理人员进行的深入探讨中，透露了该公司未来的发展规划。以下是对话中的几个关键点：首先，OpenAI 目前面临着严重的 GPU 限制，这导致他们推迟了许多短期计划。客户最大的抱怨是 API 的可靠性和速度问题，而 Sam Altman 承认这些担忧，并解释说大部分问题都是由于 GPU 短缺造成的。

其次，尽管 OpenAI 将在今年内提供10万-1M令牌上下文窗口，但任何更大的事物都需要进一步研究上的突破。此外，由于还没有有效的微调方法，如适配器或洛拉，所以微调运行和管理依赖于大量计算资源。未来将会有更好的微调支持，他们甚至可能推行一个社区贡献模型市场。

再者，OpenAI 还提供专用容量服务，为客户提供私人模型副本。但要使用此服务，客户必须预先承诺10万美元支出。这表明，即便是在高端服务中，也受到 GPU 可用性的限制。

接下来，是关于 OpenAI 近期路线图的分享，其中包括2023年的目标：更便宜、更快的 GPT-4，以及为API降低“智能成本”的努力；以及未来将来上下文窗口扩展至100万令牌等计划。此外，他们也提出了一个记住对话历史记录的 API 版本，以解决当前调用聊天 API 时需反复传递相同对话历史的问题。

对于2024年，他们计划推出多模态功能作为 GPT-4 版本的一部分，但这将受限于更多 GPU 上线之前。此外，他们表示不会很快发布通过 API 访问 ChatGPT 插件，因为这些插件尚未达到产品-market-fit（PMF）。

此外，不少开发人员担心 OpenAI 最终会发布竞争产品，但 Sam 表示他们不会这样做，他认为伟大的平台公司应该拥有自己的杀手级应用，而不是竞争他人的产品。他还强调了监管和开源重要性的同时呼吁，对未来的模型进行监管，并表示正在考虑开源 GPT-3。

最后，对于模型性能扩展定律，他指出虽然有声音声称“巨型 AI 模型时代已经结束”，但实际上，这一定律仍然有效，使得随着时间增长，大型模型能带来持续性能提升。这不仅影响 AGI 发展时间表，而且暗示缩放假设可能仍然成立，即我们已掌握构建 AGI 所需的大部分基础，只需利用现有方法并扩大数据集即可实现进步。