2025-02-08 智能 0
品玩6月1日讯，据 HumanLoop 创始人 Raza Habib 近日与 OpenAI 高级管理人员进行的深入探讨中，透露了该公司未来的发展规划。以下是对话中的几个关键点：
首先，OpenAI 目前面临着严重的 GPU 限制，这导致他们推迟了许多短期计划。客户最大的抱怨是 API 的可靠性和速度问题，而 Sam Altman 承认这些担忧，并解释说大部分问题都是由于 GPU 短缺造成的。此外，由于没有克服 O（n^2）的注意力扩展限制，更长的 32k 上下文还不能被广泛应用。而微调 API 也受到 GPU 可用性的影响。
其次，OpenAI 正在制定一项包含以下内容的近期路线图：
2023年：更便宜、更快的 GPT-4 是他们首要任务之一。随着时间推移，他们将继续努力降低 API 的成本，并提供更长上下文窗口、高达 100 万令牌，以及对微调 API 的支持。
2024年：多模态功能将作为 GPT-4 版本的一部分进行展示，但由于现有 GPU 资源有限，它们目前无法为所有用户提供服务。
值得注意的是，与插件相关的问题也在讨论之列，其中开发者对于通过 API 访问 ChatGPT 插件感到兴趣，但 Sam 表示这些插件不会很快到来。他认为很多开发者希望在自己的应用程序中集成 ChatGPT，其实真正想要的是将 ChatGPT 集成到它们自己的应用程序中。
此外，一些开发者表示当 OpenAI 发布可能与他们竞争产品时，他们会感到紧张。但 Sam 强调 OpenAI 不会发布除了 ChatGPT 之外更多产品，因为伟大的平台公司拥有杀手级应用程序历史，而ChatGPT 将允许它们通过成为自己产品客户来改进API。
最后，有关监管和开源的问题也是讨论的话题。在监管方面，Sam 呼吁对未来模型进行监管，但他认为现有模型并不危险，他重申了开源重要性的信念，并表示 OpenAI 正考虑开源 GPT-3。然而，他怀疑是否有足够的人和公司能托管并服务大型 LLM 模型，因此尚未决定开源。
总结来说，不少观察家声称“巨型 AI 模型时代已经结束”，但根据内部数据表明，对于模型性能而言，“规模化定律”仍然有效，即使如此，它们每年可能只增加一倍或三倍，而不是像以往那样增加数量级。这意味着即使缩放假设成立，我们仍需期待 AGI 开发需要较短时间内完成。如果缩放定律继续有效，那么我们可能不需要等待太久就能看到 AGI 的出现。
