2025-01-15 数码 0
据外媒MSPoweruser报道，GPT代表了一个革命性的语言模型，它由Alec Radford开发，并于2018年由OpenAI发布。该模型采用了生成式语言模型（两个神经网络通过竞争相互完善），通过对大量书面材料和长篇连载文本的预训练，能够掌握世界知识并处理复杂的依赖关系。
GPT-2在2019年2月宣布，其为无监督的转化语言模型，是基于800万份文档训练而成，总计40GB的文本数据来源于Reddit上的文章分享。然而，由于担心其可能被用于散播假新闻，埃隆·马斯克决定不公开该模型。
2020年5月，OpenAI推出了GPT-3，这个版本参数量比GPT-2大两倍（1750亿参数vs 15亿参数），显著提升了性能。它能够接收任何文本提示，并返回一篇与用户模式相匹配的完成文章或故事。例如，它可以根据几个示例直接编写完整的小说或应用程序描述。
除了这些应用之外，GPT-3还可以作为搜索引擎或智慧指南使用，以解释复杂概念。此技术看似能迅速带来类似人类智能的人工智能，但OpenAI警告称，他们遇到了扩展性挑战：为了运行GPT-3所需计算量达到几千petaflop/s-day，而完整的GPT-2仅需几十petaflop/s-day。
对于想了解更多关于GPT-3信息者，可以访问GitHub上相关资料。
