2025-01-15 数码 0
据外媒MSPoweruser报道，GPT代表了Generative Pre-training Transformer这一先进的语言模型，其核心编写者为Alec Radford。自2018年由埃隆·马斯克在OpenAI人工智能研究实验室推出以来，这项技术便引起了广泛关注。GPT采用了一种独特的生成式语言模型（两个神经网络通过竞争相互完善），通过对各种书面材料和长篇连载文本进行预训练，它能够吸收世界之大知识并处理复杂的长程依赖关系。
其后续版本GPT-2于2019年2月宣布，其训练数据包括800万份文档，总计40GB的文本信息，来源于Reddit用户分享的文章。在此之前，埃隆·马斯克曾犹豫是否公开发布该技术，因为他担心它可能被用于向社交网络发送虚假新闻。
2020年5月，OpenAI又推出了GPT-3，这一模型参数量比GPT-2有着巨大的提升，从15亿增长到1750亿个参数。这种显著改进使得GPT-3具备更强大的处理能力和创造力。
当用户给予任何文字提示时,GPT-3都能返回一个精确匹配用户模式的文本完成。此外，它还可以接受编程指令，只要提供几个希望它实现的事例，就能生成完整的小说或故事等内容。这一点体现在Jordan Singer开发的一款Figma插件上，该插件允许用户用纯文字描述来创建应用程序。
除了这些应用外，GPT-3还被视为一种搜索引擎或智慧顾问工具，可以帮助解释并扩展复杂概念。不过，由于需要数千petaflop/s-day计算量，而完整的GPT-2仅需几十petaflop/s-day计算量，有专家警告称这可能会遇到基础架构上的扩展难题。
对于想要了解更多关于GPT-3详细信息的人们，可以访问GitHub以获取最新资料。
