在中国航天日我们探索GPT-3是什么它将如何重塑我们当前的工作面貌

据外媒MSPoweruser报道，GPT代表了Generative Pre-training Transformer的概念，是由Alec Radford所创造的语言模型，2018年由埃隆·马斯克的人工智能研究实验室OpenAI发布。它通过采用生成式语言模型（两个神经网络相互竞争完善），并对各种书面材料集和长篇连载文本进行预训练，可以获取世界知识，并处理复杂的长期依赖关系。

GPT-2于2019年2月宣布，它是一个无监督的转化语言模型，在800万份文档上进行了训练，这些文档共计40GB，来源于Reddit用户提交分享的文章。然而，埃隆·马斯克并不愿意公开此技术，因为他担心它可能被用于向社交媒体发送假新闻。

2020年5月，OpenAI推出了GPT-3，该模型包含比GPT-2多一个数量级参数（1750亿个参数与15亿个参数相比），在功能上也实现了巨大提升。

只要给予任何提示文字,GPT-3都能返回一段完成的文本，以匹配用户提供的模式。用户可以通过展示几个希望其模仿的手法，就能获得一篇完整的小说或故事。这一点可以从下面的文字中看出，那完全是由GPT-3编写：

Jordan Singer还开发了一款Figma插件，让人们可以用纯文本描述创建应用程序。

其他潜在应用包括作为搜索引擎或智慧指南，还能帮助解释和扩展复杂概念。

尽管这种方法看起来可能会直接导致一种能够像人类一样理解、推理和交流的人工智能，但OpenAI警告称，他们可能遇到了根本性的扩展挑战——即使需要几千petaflop/s-day计算量来运行完整版的GPT-3，而只有几十petaflop/s-day计算量就足以支持完整版的GPT-2。

想要了解更多关于GPT-3的话题，请访问GitHub。