2025-02-08 智能 0
品玩6月1日讯，据 HumanLoop 创始人 Raza Habib 近日与 OpenAI 主管 Sam Altman 以及其他 20 位开发者进行的闭门讨论中透露的一些关于 OpenAI 接下来的发展规划。关键要点如下：
首先，OpenAI 目前正面临着 GPU 资源严重不足的问题，这导致了他们许多短期计划的推迟。客户对 API 的可靠性和速度表示担忧，而这些问题大部分是由 GPU 短缺所致。此外，由于还未克服 O（n^2）的注意力扩展限制，更长的 32k 上下文窗口目前无法广泛推广。而微调 API 也受到 GPU 可用性的限制，未来将提供更好的微调支持。
其次，OpenAI 提供专用容量服务，为客户提供模型的私人副本，但这需要预先承诺10万美元支出。
再者，Sam Altman 分享了他认为 OpenAI API 临时近期路线图，其中包括：
2023 年：降低“智能成本”，推出更便宜、更快的 GPT-4 版本，以及扩展上下文窗口到可能高达 100 万个令牌，并扩展微调 API 到最新模型。同时，将来会有一个记住对话历史记录的状态化 API 版本。
2024 年：多模态功能作为 GPT-4 版本的一部分进行演示，但在更多 GPU 上线之前不能扩展到所有人。
此外，不太可能在接近期内看到通过 API 访问 ChatGPT 插件，因为插件使用表明它们还没有获得产品市场定位（PMF）。而且，OpenAI 将避免与客户竞争，因为它不会发布除了 ChatGPT 之外的更多产品。
最后，对于监管和开源的问题，Sam 呼吁对未来的模型进行监管，但认为现有模型并不危险，并重申了他对开源重要性的信念，并表示 OpenAI 正在考虑开源 GPT-3。但是，由于怀疑有多少个人和公司有能力托管和服务大型 LLM，所以尚未决定是否开源。此外，他指出模型性能的扩展定律继续有效，使得随着时间推移，大型 AI 模型仍然能够产生性能提升。这对于 AGI 开发时间表具有重大影响，即缩放假设意味着我们可能已经具备构建 AGI 所需的大部分部分，而剩下的工作将采用现有方法并将其扩展到更大的模型和数据集。如果缩放时代已经结束，那么我们可能应该期待 AGI 时间线较短。
