2025-01-28 数码 0
李冬梅与核子可乐的合作：揭秘OpenAI近况与未来规划
在一场闭门会议上，OpenAI创始人Sam Altman与Humanloop CEO Raza Habib以及其他20位开发者进行了深入交流，探讨了OpenAI的最新动态和未来的蓝图。HumanLoop是一家专注于帮助开发者利用大型语言模型构建应用程序的公司。
据参加此次会议的开发者透露，由于这是一个私密对话，Altman展现出了开放的心态，讨论范围涵盖了开发者的实际挑战、商业竞争、AI监管以及开源等多个方面。
Raza Habib记录并分享了这次对话的关键内容，但随后由于OpenAI要求，这些信息已被删除。这种删帖行为引发外界广泛猜测和质疑，有网友认为这样的举动既讽刺又有炒作意味。
尽管如此，这次闭门会对外界提供了一些关于OpenAI面临GPU资源紧张问题和API可靠性挑战的线索。在Altman与Raza Habib讨论中，他们确认目前GPU供应不足导致短期计划延迟，同时也提到O(n^2)注意力扩展问题仍待解决，以便实现更长上下文窗口。
对于微调API而言，由于依赖较多算力，它们同样受限于GPU资源限制。此外，专用容量产品虽然提供给客户，但需要高昂成本（至少10万美元）。
随着大型语言模型和人工智能生成能力的大爆炸，每家企业都急需大量GPU资源。英伟达高端芯片价格飙升至数万元，而Meta和微软成为今年英伟达最大买家之一。
2023年被视为重要的一年，对于OpenAI而言，其目标包括推出价格更低且速度更快的GPT-4，以及不断降低“智能实现成本”。他们还计划扩展上下文窗口至百万级token，并推出有状态API版本来记住对话历史记录。但是，这些建议还受到GPU资源匮乏的问题影响，因此可能无法立即实施。
2024年将是多模态功能普及的一年，而插件“尚未完成市场匹配”，预计不会很快加入API。同时，尽管Altman承诺不发布除ChatGPT以外的竞争产品，但他认识到做平台巨头企业掌握杀手级应用程序，并表示ChatGPT旨在转化这些企业为客户以改进其API服务。
最后，在监管建议中，Altman呼吁加强未来模型管理，但认为当前模型没有太大风险。他重申开源对于技术发展至关重要，并表明正在考虑开源GPT-3模式。这背后的原因主要是担心绝大部分个人或企业无法托管运行如此庞大的语言模型。而扩展定律仍然有效，一种假设表明我们可能已经拥有建立通用人工智能所需的大部分底层技术，只需要通过现有方法来扩大数据集和模型规模。如果这一假设成立，那么通用人工智能时代就不远了。
