2025-01-28 手机 0
未来科技绘画:OpenAI 创始人与开发者密谈近况与规划,引发删帖风波和对GPU资源限制的猜测
在一场闭门交流中,OpenAI 创始人Sam Altman与Humanloop CEO Raza Habib及20位开发者就展开了深入讨论。HumanLoop是一家专注于帮助开发者在大型语言模型上构建应用的公司。这次会议的开放气氛让Altman愿意探讨从实际问题到商业竞争、AI监管以及开源等多个层面。
Raza Habib记录并公布了这次对话内容,但随后由于OpenAI要求,这些信息已被删除。这不仅引发外界好奇,也导致了一系列关于删除动机和背后的原因的猜测。有网友认为这是因为OpenAI不希望公开讨论一些关键计划,而另一些人则怀疑有炒作之嫌。
Altman解释说,目前他们正面临严重的GPU资源限制,这导致许多短期计划推迟。此外,他们还未能克服O(n^2)注意力扩展的问题,因此尽管预计今年内将实现10万到百万级token上下文窗口,但进一步扩展仍需更多研究支持。
微调API同样受限于GPU资源,并且尚未采用Adapters或LoRa等高效微调方法。在2023年,OpenAI将重点发展价格更低、速度更快的GPT-4,以及控制API价格以降低“智能实现成本”。未来,还将推出能够记住对话历史记录的API版本,以及全面的多模态性功能。
然而,由于当前GPU资源紧张,这些功能可能不会立即向所有用户开放。此外,虽然插件尚未完成市场匹配,但Altman保证不会发布除ChatGPT以外竞争产品。他强调,不会侵犯客户利益,并呼吁加强模型监管,同时重申了开源重要性的信念,即使目前还没有开源GPT-3模型也是如此。