2025-01-28 手机 0
李冬梅、核子可乐的探索：OpenAI 创始人Sam Altman与 Humanloop CEO Raza Habib及20位开发者密集对话，揭秘近况与未来的蓝图。HumanLoop 是一家专注于助力开发者在大型语言模型上构建应用的公司。
参与此次闭门会议的开发者表示，Altman展现出开放的心态，讨论涉及实际问题、商业竞争、AI监管以及开源等议题。此次对话重点被Raza记录并分享，但随后因OpenAI要求已被删除。这一删帖行动引发了外界强烈好奇和质疑，有网友讽刺指出“一个从互联网收集信息做产品的公司，却要‘删除’从互联网上的文章，这种行为真是太过分了”。
外界猜测OpenAI删帖原因之一是因为不希望公开讨论一些核心规划。一部分网友认为这是炒作，因为GPU短缺已经不是秘密，看看英伟达股价就能知道。OpenAI确实严重依赖GPU，在Altman与Raza交谈中证实，他们目前正受到GPU资源限制，导致许多短期计划推迟。大客户抱怨API可靠性和速度表现。Altman承认这些意见，并解释主要问题来自GPU供应不足。
尽管32k上下文还无法全面推广，预计今年内将实现10万到百万级token上下文窗口，但进一步扩展需要突破性研究支持。微调API同样受限于GPU资源，不得不占用大量算力。在未来支持效果更佳时，可能会为社区贡献模型设立专门市场。
专用容量产品也难以独善其身。为了获取这项服务，客户需预先支付10万美元。而在大型语言模型和AIGC的大爆发后，每个AI企业对于GPU需求比以往任何时候都紧迫至极。英伟达高端芯片价格达到数万元，而AI基础设施公司购买它们时价格达到数千台。
马斯克曾表示他为新创X.AI购买了3.5万块英伟达H100芯片，每块超过3万元。此外，Meta和微软成为今年英伟达最大买家之一（Meta可能排名第一，因为Facebook、Instagram、WhatsApp和Messenger应用中有很多使用到GPU）。
因此，从Sam Altman的话来看，即使是重要年份，也会继续强调 GPU 的重要性。他还分享了 OpenAI 的 API 近期路线图（暂定）。2023 年是一个发展关键的一年，对他们来说充满激动人心的计划和目标，比如GPT-4——即将成为接下来首要任务，以降低“智能实现成本”，不断控制 API 价格，更长的上下文窗口，以及微调 API 等项目。但所有这一切，都必须在解决 GPU 资源限制的问题前进行。
2024 年，将是多模态性的全方位拥抱的一年。这意味着模型将能够处理多种类型输入数据，如文本、图像、音频视频。但由于仍然面临 GPU 资源匮乏问题，这些功能目前不能面向所有用户开放。此外，由于插件尚未找到理想市场匹配点，它们也不会很快出现在 API 中。不少开发人员担心 Open AI 最终可能发布与其产品构成竞争关系的新成果，所以在使用 Open AI API 做开发时颇感紧张。不过 Altman 强调 Open AI 不会发布除ChatGPT以外的其他产品。
虽然 Altman 呼吁对未来的模型加以监管，但他觉得当前的模型没有什么风险，并认为粗暴监管甚至封禁绝对是个错误。他重申自己对于开源重要意义信念，并表示 Open AI 正考虑开源 GPT-3 模型。不过，他担忧绝大多数个人或企业都没有能力托管运行如此大规模语言模型。
最后，不少文章宣称“超大规模 AI 模型时代结束”，但内部数据表明性能仍遵循扩展定律，即扩大规模带来更高性能。这意味着 AGI 开发时间表重大影响。如果扩展时代就此结束，我们或许得重新探索通往 AGI 前进方向。不过幸运的是，该定律仍然有效，为我们预示着 AGI 横空出世之日也许已非遥远。
