当前位置: 首页 - 数码 - 在GPU短缺的阴影下GPT-3或将揭开面纱论文背后的神秘世界等待着被揭晓...

在GPU短缺的阴影下GPT-3或将揭开面纱论文背后的神秘世界等待着被揭晓...

2025-02-24 数码 0

机器之心报道:OpenAI面临GPU短缺,GPT-3或将开源

在全球范围内,人工智能领域的热潮如同一股不可阻挡的浪潮,在这个过程中,OpenAI作为ChatGPT和GPT-4等大型语言模型背后的关键公司,其发展道路充满了挑战。近期,包括图灵奖得主Geoffrey Hinton、Yoshua Bengio在内的多位AI领域专家共同发出警告声,他们担忧大型语言模型可能带来的风险,并呼吁暂停GPT-4之后的大型模型研发。

为了消除人们对人工智能的恐惧,以及听取开发人员和用户的意见,OpenAI CEO Sam Altman正在进行全球巡回演讲。据《Fortune》报道,他与一些开发人员和初创公司创始人进行了闭门会议,以分享OpenAI未来的规划以及面临的一系列挑战。

当前OpenAI最大的问题是受限于GPU(图形处理单元)的短缺,这种限制导致了一些计划被推迟。Sam Altman承认这一问题,并解释说客户抱怨的大部分是由于GPU短缺造成的。在文本处理方面,更长的上下文窗口还不能广泛应用,因为目前还没有完全克服注意力机制扩展问题。此外微调API也受到GPU供应限制,而专用容量提供则受到更严格的限制。

尽管如此,Sam Altman仍然坚信开放性对于未来的人工智能发展至关重要。他透露,将来可能会推出一个社区专注于研究模型,以及更高效微调技术。而且,不久后即将发布的是一个更便宜、更快的大型语言模型——预计其上下文窗口能达到100万个token。

2023年的路线图主要集中在降低成本以及扩展功能,如状态API能够记住会话历史记录,而2024年则将重点放在多模态能力上。这一阶段,也就是插件尚未完全成熟,因此不会立即向所有用户开放。不过,对于插件是否有实际应用价值,有些开发者持保留态度,因为他们认为现有的插件并没有足够吸引力以证明它们值得投资时间去构建基于这些插件的事务系统。

然而,对于监管的问题,虽然Sam Altman支持未来对新类型的人工智能进行监管,但他并不认为现存的人工智能存在危险,并强烈反对对现有模型实施过度监管或禁止使用。他提到,即使是像ChatGPT这样的产品,也不应该被视为竞争,而应该成为其他平台上的核心功能,使得这些平台更加强大。

最后,由于扩展定律仍然有效,即增加一个参数可以显著提高性能,因此Sam Altman相信人类已经拥有构建通用人工智能所需的大部分要素,只是在数据集和算力的可用性方面还有待提升。如果我们继续按照现在这样的方式前进,我们很可能比预想中的时间早一点实现AGI(通用人工智能)。

总结来说,就在当今这个充满期待与担忧的人类科技革命时刻,大型语言模型正站在舞台中央,它们带给我们前所未有的可能性,同时也引发着关于控制与责任、安全与伦理等深层次的问题。随着技术不断进步,我们不仅需要追求创新,还必须审慎思考如何平衡好这两个世界之间紧张而复杂的情感纽带。

标签: 数码设备有哪些数码之家论坛数码包含哪些类别数码宝贝游戏大全合集数码产品哪个网站查询