2025-01-28 数码 0
国家科技成果网官网披露，OpenAI 创始人Sam Altman与Humanloop CEO Raza Habib及20位开发者进行了深入交流，探讨了OpenAI的最新动态和未来的规划。HumanLoop是一家专注于帮助开发者在大型语言模型上构建应用的公司。
参与此次对话的开发者表示，由于这是闭门会议，Altman展现出了开放的心态，与会者讨论不仅涉及实际问题，还延伸到了商业竞争、AI监管以及开源等议题。此次对话重点内容由Raza Habib记录并在网络上发布，但随后受到了OpenAI要求删除的命运。然而，这一删帖行为引发了外界强烈好奇和质疑。
网友纷纷猜测OpenAI删帖背后的原因，一些认为是因为不希望公开谈论一些关键规划；另一些则认为有炒作嫌疑，因为GPU短缺早已不是秘密，英伟达股价即可见证。而Altman与Raza讨论中明确指出目前OpenAI正面临严重的GPU资源限制，这导致了多个短期计划推迟，同时几家大客户抱怨API速度和可靠性问题。
更广泛的大量数据上下文还无法被全面利用。由于仍然存在O(n^2)注意力扩展问题，即使预计今年内能实现10万到百万级token的大窗口，上下文扩展也需要更多突破性的研究支持。
微调API同样受到GPU资源限制，没有采用Adapters或LoRa等高效微调方法，因此当前需要大量算力来运行和管理。此外，未来微调支持将更加完善，并可能为社区贡献模型设立专门市场。
专用容量产品也面临挑战。尽管提供私有模型副本，但客户需先支付10万元。此时，大型语言模型与AIGC爆发后，对GPU需求比以往任何时候都更紧迫。英伟达高端GPU价格达到数万美元，而基础设施公司以数千台购买它们。
马斯克甚至声称他为新初创X.AI购买了3.5万块H100 GPU，每块超过30,000美元。此外，Meta和微软已成为今年英伟达最大买家之一（Meta可能排名第一，因为Facebook、Instagram、WhatsApp和Messenger应用程序中包含很多依赖GPU增强的事物）。
这就是为什么Sam Altman会说OpenAI也很缺乏GPU。他曾在媒体采访中公开强调过如何影响他们2023年的计划以及接下来的一年。在分享GPT-4发展进度时，他表明2023年是重要的一年，他们有令人振奋的计划和目标之一是降低“智能实现成本”，因此将不断控制API价格长期来看。他还提到，将推出记住对话历史记录功能，以及拥抱多模态性，将处理各种类型输入数据，如文本图像音频视频。但直到解决当前的问题前，这些功能不会向所有用户开放。不过，他承诺不会动客户“奶酪”——即不会发布除了ChatGPT以外其他产品，以避免与其它企业构成直接竞争关系，并且ChatGPT只想成为工作场景下的超级智能助手，不涉足众多其他GPT用例。
