2025-01-28 数码 0
科技资讯网站披露，OpenAI创始人Sam Altman与Humanloop CEO Raza Habib等20位开发者进行了面对面的闭门交流，讨论了OpenAI的近况与未来规划。HumanLoop是一家帮助开发者在大语言模型上构建应用的公司。
参与会议的开发者表示，Altman展现出了开放的心态，对商业竞争、AI监管和开源等问题进行了深入探讨。此次交流会的重点内容由Raza Habib记录并发布，但随后因OpenAI要求删除，该内容已被移除。这一举动引发外界强烈好奇和质疑，有网友指出这一行为颇具讽刺性。
有人猜测OpenAI删帖可能是因为不希望公开讨论一些关键规划，而另一些人认为这是炒作行为，因为GPU不足已经不是秘密，看看英伟达股价就能看出来。实际上，OpenAI确实面临严重的GPU资源限制，这导致了一些短期计划推迟。几家大客户抱怨API可靠性和速度表现，Altman承认这些问题，并解释主要原因是GPU供应不足。
尽管32k上下文窗口预计将实现，但进一步扩展还需突破性研究。微调API目前同样受限于GPU资源管理仍需大量算力支持。在未来的市场中为社区贡献模型设立专门市场也是目标之一。
专用容量产品提供给客户私有模型副本，但需要预先支付10万美元。大型语言模型及AIGC的大爆发使得各企业对于GPU需求比以往任何时刻都要紧迫。英伟达高端芯片价格高达数万元，而基础设施公司购买它们数量达到数千台。
马斯克也表明他已为新初创公司X.AI购买了3万多块H100 GPU，每个超过3万美元。此外，Meta和微软成为今年英伟达最大买家之一（Meta可能排名第一）。
因此，从Sam Altman的话来看，OpenAI也缺乏足够的GPU资源。他在媒体采访中公开强调过此影响，以及2023年作为重要发展的一年，他们有令人兴奋的计划和目标，如更快、更低成本GPT-4版本，将持续控制API价格，更长上下文窗口至百万token，以及微调API扩展至最新模型等。不过，这些都受到尚未解决的问题如GPU资源限制所影响。
2024年将是多模态性的全盛时期，其中GPT-4版本展示了一部分功能，即处理不同类型输入数据，如文本、图像、音频及视频。但在解决GPS问题之前，这项功能无法对所有用户开放。而插件“尚未完成市场匹配”，可能不会很快加入到API中，不少开发人员想通过API访问ChatGPT插件，但Altman表示这类插件短期内不会发布。他保证不会动客户“奶酪”，即不会发布除了ChatGPT以外其他产品，以避免与其构成竞争关系。
虽然Altman呼吁对未来模型加以监管，他认为当前无风险，并反对粗暴监管或封禁。他重申开源重要性的信念，并表示考虑开源GPT-3模型，只不过担心绝大多数个人和企业没有能力托管运行如此大规模语言模型。扩展定律仍然有效，即增大的性能带来更多输出质量提升，但增长速度难以为继，因为目前每年的增幅只有1到3倍而非过去那种跨越几个数量级的情形。这对于通用人工智能(AI)发展时间表具有重大影响。如果扩展时代终结，那么我们必须重新探索通往AGI前进方向。而事实证明，定律仍然有效，为AGI接近之日提供了希望。
