2025-02-08 智能 0
品玩6月1日讯,据 HumanLoop 创始人 Raza Habib 近日与 OpenAI 主管 Sam Altman 以及其他 20 位开发者进行的闭门讨论中透露的一些关于 OpenAI 未来开发工作内容。关键要点如下:
首先,OpenAI 目前面临着严重的 GPU 限制,这影响了他们许多短期计划的推进。客户最大的抱怨是 API 的可靠性和速度问题,而这些大部分都是由 GPU 短缺所致。
其次,尽管 OpenAI 即将提供10万-1M令牌上下文窗口,但任何更大的事物都需要研究上的突破。此外,由于目前没有有效的微调方法,如适配器或洛拉,因此微调运行和管理极为依赖计算密集型。在未来的支持上,他们甚至可能主持一个社区贡献模型市场。
再者,专用容量产品同样受限于GPU可用性。为了访问此服务,客户需预先承诺10万美元支出。
至于近期路线图,上述内容包括以下几个方面:
2023年:目标是实现更便宜、更快的 GPT-4,并持续努力降低 API 成本。同时,将推出更长上下文窗口(可能达100万令牌)以及扩展到最新模型的微调 API 支持。此外,将会有一个记住对话历史记录的API版本。
2024年:多模态功能作为 GPT-4 版本的一部分进行展示,但在更多 GPU 上线之前无法扩展给所有人。
最后,对插件发布时间表表示怀疑,因为除了浏览之外,这些插件还未获得 PMF(产品市场匹配)。一些开发人员担心当 OpenAI 发布具有竞争力的产品时,他们使用 OpenAI API 构建应用程序的情况。但 Sam 表示OpenAI不会发布ChatGPT以外的大量产品,他认为伟大的平台公司拥有杀手级应用程序历史,而 ChatGPT 将允许他们通过成为自己产品客户来改进API。他还呼吁对未来模型进行监管,同时强调开源重要性,并指出OpenAI正在考虑开源 GPT-3。不过,他也指出现有模型并不危险,不应被监管或禁止。而且他认为模型性能扩展定律继续有效,即使巨型 AI 模型时代已经结束,也意味着每年的性能提升仍然可能显著。这对于 AGI 开发时间表具有重大影响,如果缩放假设成立,那么我们可能已经具备构建AGI所需的大部分部分,只是在数据集和规模上做进一步调整。如果缩放定律继续成立,则意味着 AGI 时间线较短。