2025-02-08 智能 0
品玩6月1日讯，据 HumanLoop 创始人 Raza Habib 近日与 OpenAI 主管 Sam Altman 以及其他20位开发者进行闭门讨论，这次交流中透露了OpenAI未来工作的部分内容。值得关注的是，当前OpenAI面临GPU严重不足的问题，这限制了他们短期计划的实施，客户主要抱怨API可靠性和速度问题。Sam Altman承认这些担忧，并解释大部分问题源于GPU短缺。
更长的32k上下文目前也无法推广给更多人，因为OpenAI还未克服O（n^2）的注意力扩展问题。不过，他们预计今年将有10万-1M代币上下文窗口，但任何更大的项目都需要研究上的突破。此外，微调API目前受限于GPU资源，而有效的微调方法，如适配器或Lora仍未被采用，因此微调运行和管理非常依赖计算密集型操作。在未来，他们计划提供更好的微调支持，有望甚至主持一个社区贡献模型市场。
此外，由于GPU资源限制，专用容量产品同样受影响。OpenAI为客户提供私人模型副本，但要访问此服务，一般需要提前承诺10万美元支出。
Sam分享了他对OpenAI API近期路线图的一些看法：
2023年：更便宜、更快的GPT-4是他们首要任务之一。他们希望尽可能降低“智能成本”，因此随着时间推移，将继续努力降低API成本。此外，上下文窗口将增加到100万令牌水平，同时Fine-tuning API会扩展到最新模型形式待定，以满足开发者的需求。而且，将来会有一种记住对话历史记录的API版本。
2024年：多模态功能作为GPT-4版本的一部分进行演示，但在更多GPU上线之前，不会对所有用户开放。
值得一提的是，由于插件尚未在API中出现，大多数开发人员对于通过API访问ChatGPT插件感到兴奋。但Sam表达了他认为这些插件不会很快发布的情绪，他建议许多人认为他们希望在应用程序中使用ChatGPT实质上是在追求应用程序中的ChatGPT功能而非真正意义上的插件使用。
另外，对于竞争产品的问题，虽然一些开发者表示当OpenAI可能发布具有竞争力的产品时，他们可能感到紧张，但Sam坚持说OpenAI不会发布除了ChatGPT之外的大量产品。他指出伟大的平台公司往往拥有杀手级应用程序，而且ChatGPT能让它们成为自己产品的客户，从而改善其API性能。同时，他强调了监管以及开源重要性的必要性，并表明即使现有的模型并不危险，也应当考虑监管。而关于开源方面，他表示虽然仍有疑虑但正在考虑开源GPT-3。
最后，不少文章声称“巨型 AI 模型时代已经结束”，但根据内部数据显示，即便如此，对模型性能增长速度持续加速的事实对于AGI发展时间表具有重大影响。这意味着缩放假设——我们已具备构建AGI所需的大部分元素，只需通过现有方法向规模化方向发展—仍然成立。如果缩放定律确实在减慢，那么我们应该期待AGI出现较早一些。但这份数据提示时间线较短，是一种积极信号。
