2025-02-08 智能 0
品玩6月1日讯,据 HumanLoop 创始人 Raza Habib 近日与 OpenAI 主管 Sam Altman 以及其他 20 位开发者进行的闭门讨论中透露的一些关于 OpenAI 未来开发工作内容。关键要点如下:
首先,OpenAI 目前受到 GPU 严重限制,这在整个讨论过程中成为一个共同主题之一。由于 GPU 的有限性,一些短期计划被推迟,而客户最大的抱怨是 API 可靠性和速度问题。Sam 承认了这些担忧,并解释说大部分问题都是由 GPU 短缺造成的。此外,更长的 32k 上下文还不能广泛推广给更多人,因为 OpenAI 还未克服 O(n^2) 注意力扩展的问题。
其次,微调 API 也受到 GPU 可用性的瓶颈影响,他们还没有使用有效的微调方法,如适配器或洛拉,因此微调运行和管理非常依赖计算密集型。未来将提供更好的微调支持,并可能主持社区贡献模型市场。而专用容量产品受限于 GPU 可用性,客户必须预先承诺10万美元支出才能访问此服务。
接着,Sam 分享了他认为 OpenAI 的API临时近期路线图如下:
2023年:更便宜、更快的 GPT-4 是他们首要任务,其目标是降低“智能成本”。随着时间推移,他们将继续努力降低 API 成本。更长上下文窗口(可能高达100万令牌)以及 finetuning API 将扩展到最新模型,但形式取决于开发人员真正想要什么。一有状态的 API 版本也将实现,当调用聊天 API 时,不再需要反复传递对话历史并支付相同令牌。
2024年:多模态功能作为 GPT-4 版本的一部分进行演示,但在更多 GPU 上线之前无法扩展到所有人。
此外,由于插件不会很快发布,在通过 ChatGPT 访问插件方面,对于许多开发人员来说,是一个热门的话题。但 Sam 表示,他认为这类插件不会很快发布。他建议,有很多人希望他们应用程序中的 ChatGPT,但实际上他们真正想要的是在应用程序中包含 ChatGPT 功能。在避免与客户竞争方面,OpenAI 不会发布以外ChatGPT之外的大多数产品。他指出伟大的平台公司拥有杀手级应用程序历史,而ChatGPT 将允许它们通过成为自己的产品客户来改进API。
最后,虽然 Sam 呼吁对未来的模型进行监管,但他认为现有模型并不危险,并且监管或禁止它们是一个大错误。他强调了开源重要性的信念,并表示 OpenAI 正考虑开源 GPT-3。不过,还有一些原因阻止了完全开放,比如怀疑是否有足够的人和公司能够托管和服务大型 LLM。
总而言之,无论如何,都可以看出目前Open AI正在积极地朝着提高其性能、提升用户体验以及确保安全性的方向发展。而且根据内部数据表明,即使“巨型 AI 模型时代”被质疑,也证实了模型性能增长定律仍然有效。这不仅对AGI(通用人工智能)的建设具有重大影响,而且也提示时间表较短。如果缩放假设成立,那么我们可能已经具备构建AGI所需的大部分部分,只需要利用现有的方法并将其扩展到更大的模型和数据集。如果这种情况如此,则意味着 AGI 时间线会更加接近我们的视野范围内。此事一经公布,便引发了一系列对于技术界未来趋势深入探讨的声音,让人们对即将到来的科技变革充满期待,同时也提醒我们要审慎面对不断进步的人工智能世界。在这个过程中,我们都应该保持谨慎,以确保任何新兴技术都能以负责任和合规方式被采用,从而为人类社会带来益处,而不是危害。
上一篇:检测的深渊仪器中心的隐秘之幕
下一篇:G530追忆的力量