2025-01-28 数码 0
李冬梅、核子可乐的文章
近日,OpenAI 创始人Sam Altman与 Humanloop CEO Raza Habib及其他20位开发者进行了一场面对面的闭门交流,他们讨论了 OpenAI 的近况与未来的规划。HumanLoop 是一家帮助开发者在大语言模型上构建应用的公司。
参与此次交流会的开发者表示,Altman 在交谈中表现出了开放的心态,讨论内容既涉及开发者面临的实际问题,也延伸到了商业竞争、AI 监管和开源等问题。此次对话的重点内容被 Raza Habib 记录了下来并公布在了网络上,但后来因OpenAI要求,这些内容已被删除。这一删帖举动引发了外界强烈好奇和质疑。
有网友认为这种行为很讽刺,因为OpenAI是一家从互联网上收集信息做产品的公司,却要求从互联网上“删除”一篇文章。有人猜测OpenAI删帖是因为不希望公开讨论一些公司重点规划,有人则认为这是炒作,有着GPU不足已经不再秘密的情况下,看看英伟达股价就知道了。
OpenAI严重依赖GPU资源,目前正受到GPU资源限制,导致不少短期计划推迟。大客户抱怨API可靠性和速度表现。Altman认同这些意见,并解释主要问题源自GPU供应不足。
微调API目前同样受到GPU资源限制,还没用上Adapters或LoRa等高效微调方法,所以仍需占用大量算力。未来微调支持效果更好,可能为社区贡献模型设立专门市场。
专用容量产品也无法独善其身。要获取这项服务,客户需要预先支付10万美元。在大语言模型和AIGC大爆发后,每个AI企业对于GPU需求比以往任何时候都要紧迫。英伟达高端GPU芯片价格达到数万元每片,而AI基础设施公司正在以数千台价格购买它们。
马斯克甚至购买了3万多块英伟达H100 GPU芯片,每个超过3万美元。此外,Meta 和微软已成为今年英伟达 GPU 最大的买家之一(Meta 可能排名第一)。
Sam Altman 表示2023年是 OpenAI 发展重要的一年,他们有一些令人兴奋的计划和目标,如GPT-4——将是接下来的首要任务,以降低“智能实现成本”。他们还希望扩展长文本窗口至百万 token,以及扩展微调 API 到最新模型。但具体形式还是要根据开发者的实际需求来决定。
2024年将是 Open AI 全面拥抱多模态性的一年,但在 GPU 资源匮乏问题得到缓解之前,这项功能还无法面向所有用户开放。插件“尚未完成市场匹配”,可能不会很快出现在 API 中,不少开发人员想通过 API 访问 ChatGPT 插件,但 Altman 表示这类插件在短期内不会发布。他承诺不会发布除ChatGPT以外的其他产品,并呼吁对未来的模型加以监管,同时重申自己对于开源重要意义的信念,并表示 Open AI 正在考虑开源 GPT-3 模型。不过,他担心绝大多数个人和企业都没有能力托管和运行这种大语言模型,因此暂时没有开源。而且尽管扩展定律仍然有效,对于 AGI 的发展时间表有着重大影响。如果扩展时代结束,那么我们也许得重新探索通往 AGI 的前进方向。不过,由于定律仍然有效,我们可以期待 AGI 横空出世之日即将到来。
参考链接:
https://web.archive.org/web/20230531203946/https://humanloop.com/blog/openai-plans
本文转载来源:https://www.infoq.cn/article/xZaNyw2QsZcxmNXUvkZv