2025-02-08 智能 0
品玩6月1日讯,据 HumanLoop 创始人 Raza Habib 近日与 OpenAI 主管 Sam Altman 以及其他 20 位开发者进行的闭门讨论中透露的一些关于 OpenAI 未来开发工作内容。关键要点如下:
首先,OpenAI 目前受到 GPU 严重限制,这在整个讨论过程中成为一个共同主题。他们的短期计划因此而推迟,而客户最大的抱怨是 API 可靠性和速度问题,这些大部分都是由于 GPU 短缺导致的。Sam Altman 承认了这些问题,并解释说,大部分问题都源于 GPU 短缺。
其次,尽管 OpenAI 即将拥有10万-1M令牌上下文窗口(今年),但任何更大的事情都需要研究突破。此外,他们还没有克服 O(n^2) 的注意力扩展,因此微调 API 也受到 GPU 可用性的限制。未来将提供更好的微调支持,并可能主持一个社区贡献模型的市场。
再者,OpenAI 还提供专用容量,为客户提供模型的私人副本,但要访问此服务,客户必须预先承诺10万美元的支出。
接下来,Sam Altman 分享了他认为 OpenAI 的 API 暂时近期路线图如下:
2023 年:更便宜、更快的 GPT-4 是他们首要任务。在这一年里,他们希望尽可能降低“智能成本”,因此随着时间推移,将努力继续降低 API 的成本。此外,还将实现更长上下文窗口(高达100万令牌)以及对新模型进行微调支持。
2024 年:多模态功能作为 GPT-4 版本的一部分进行演示,但在更多 GPU 上线之前不能扩展到所有人。
此外,由于插件使用表明它们还未达到产品市场定位(PMF),Sam 表示这些插件不会很快发布。他建议许多开发人员认为他们希望在应用程序中集成 ChatGPT,但实际上他们真正想要的是 ChatGPT 在应用程序中的表现。
最后,一方面,有一些开发人员表示当 OpenAI 发布竞争产品时,他们会感到紧张;另一方面,Sam 表示 OpenAI 不会发布除了 ChatGPT 之外的大量产品,他强调伟大的平台公司通常拥有杀手级应用程序,而 ChatGPT 将允许它们通过成为自己产品的客户来改进 API。ChatGPT 的愿景是成为工作超级智能助手,但还有许多其他 GPT 用例不被触及。而且,即使有呼吁监管未来模型,也有信念认为现有模型并不危险,不应禁止或监管;同时也重申了开源重要性的信念,并表示考虑开源 GPT-3。不过,由于怀疑是否有人能托管和服务大型 LLM,它们尚未开源。这一系列信息反映了当前技术创新素材摘抄200字所蕴含的问题和机遇,同时也揭示了科技发展道路上的挑战与机遇相互交织之处。