2025-02-24 数码 0
科技巨擘 OpenAI 面临的最大挑战是 GPU 短缺，这也延缓了他们一些短期计划的实施。近期，客户抱怨最多的是 API 的可靠性和速度问题。OpenAI CEO Sam Altman 承认了这个问题，并解释说客户抱怨的大部分问题是由于 GPU 短缺造成的。
目前，OpenAI 还没有克服注意力机制的 O（n^2）扩展问题，因此更大的文本处理窗口需要进一步研究突破。此外，微调 API 也受到 GPU 供应限制。Sam 透露更好的微调技术将在未来推出，他们甚至可能提供一个社区专门研究模型。
在交谈中，Sam 分享了 OpenAI API 的近期路线图，其中包括推出更便宜、更快的 GPT-4，以及长上下文窗口、高效微调方法等。此外，状态 API 可以记住会话历史记录，从而提高用户体验。
对于开发人员使用插件访问 ChatGPT 的兴趣，Sam 表示这些插件短期内不会发布。他指出，有很多人希望自己的应用程序包含 ChatGPT，但真正想要的是应用程序中的 ChatGPT。不过，他强调 OpenAI 将避免与其客户竞争，并且不打算发布与类似产品竞争的新产品。
尽管监管是一个重要话题，但 Sam 强调开源同样必要，并表示 OpenAI 正考虑开源 GPT-3。扩展定律仍然存在，即增大模型规模将继续提高性能，但这一增长不能无限持续，因为已有所见到极端规模增加对资源和环境产生负面影响。
总之，OpenAI 在GPU短缺背景下努力推进技术发展，同时致力于解决现有挑战，以确保人工智能技术能够安全、有效地服务于社会。这一过程中，对于监管和开源都给予了重视，以促进公众参与并保障未来的可持续发展。
