2025-02-24 数码 0
机器之心报道：OpenAI面临GPU短缺恐慌GPT-3或将开源，Sam Altman揭露产品规划与发展瓶颈
【编辑部】近日，机器学习领域的巨头OpenAI在其CEO Sam Altman的带领下，正面临着一个前所未有的挑战：GPU（图形处理单元）的极端短缺问题。据了解，这一技术困境已经影响了ChatGPT问世以来，大模型和人工智能技术的快速发展。
尽管如此，Sam Altman仍然坚信OpenAI能够克服这一难关，并继续推动人工智能的进步。在最近的一次闭门会议上，Altman详细阐述了OpenAI目前面临的问题，以及他们正在采取的一系列措施来解决这些问题。
首先，是关于GPU资源的紧张局势。由于市场对高性能计算设备如GPU的需求激增，加之供应链受到全球疫情和其他因素影响，使得大型数据中心如OpenAI等公司难以获取足够数量的GPU。这导致了API可靠性和速度问题，这些问题是客户投诉最多的一个方面。
此外，对于更长上下文窗口（32k）的大型模型，如GPT-3，由于注意力机制扩展效率低下，该模型尚未能被广泛应用。此外微调API也受限于GPU资源，而更好的微调技术则需要进一步研究突破。
然而，不管这些挑战如何，那些追求未来科技革新的开发者们并没有放弃。根据Altman介绍，在接下来的一年里，预计会有更多便宜、快捷且强大的GPT-4版本出现，同时提供更长上下文窗口以及微调API服务。此外，还有专用容量提供，可以为客户提供私有的模型副本，但这将需要预先承诺支出10万美元。
对于未来路线图，Altman指出2023年的目标是降低智能成本，并推出更多功能；而到了2024年，将重点放在多模态能力上，其中包括插件，但他表示这些插件可能不会很快推向公众，因为它们还没有达到产品市场定位（PMF）。
值得一提的是，即使监管对于未来的模型来说是一个必要讨论的话题，但开源也是不可或缺的一环。虽然过去几年内人们担忧过大规模语言模型带来的潜在风险，但Sam Altman认为现存的大型语言模型并不构成威胁，他强烈主张对它们进行监管，并重申了开源GPT-3项目即将启动的事实。他解释说，如果不开放这样的知识，为何人类应该独占这种力量？
最后，在谈及扩展定律时，Altman澄清称扩展模式仍然有效，它意味着我们距离实现通用人工智能（AGI）还有很远，但每个小步骤都是迈向成功。而且，就算是在AGI领域，也有一种观点认为，我们已拥有构建它所需的大部分要素，只是还需通过不断扩大数据集和提高计算能力来完成剩下的工作。
总结来说，无论是从解决当前挑战还是探索未来可能性，都可以看出Sam Altman及其团队对创新的热情与决心，他们希望利用技术去改善世界，同时确保这种进步既安全又可持续。这场关于人工智能是否可以真正成为一种力量革命性的讨论，或许正处在转折点——但无疑是一场引发全球关注的人类历史事件。
