2025-01-15 数码 0
据外媒MSPoweruser报道，GPT代表了一个先进的语言模型系统，由Alec Radford设计，并于2018年由埃隆·马斯克的OpenAI实验室推出。该系统采用了两种竞技对抗式神经网络，通过对广泛文本材料进行预训练，它能够理解世界知识并处理复杂依赖关系。
在2019年2月，GPT-2被宣布，这是一个无监督的转换语言模型，它是基于800万篇文章和40GB数据集（来自Reddit）的训练结果。然而，埃隆·马斯克最初对其发布表示犹豫，因为他担忧它可能用于散播假新闻。
2020年5月，OpenAI推出了GPT-3，该模型具有1750亿个参数，与仅有15亿个参数的GPT-2相比，其性能大幅提升。给定任何文本提示,GPT-3可以生成一段符合模式的文本。用户只需提供几个例子，就能获得一篇完整的文章或故事。这项技术甚至被用来创建应用程序描述工具，以及作为搜索引擎或智者的一种形式，以解释复杂概念。
尽管这项技术似乎正在向人类水平的人工智能迈进，但OpenAI警告称，他们遇到了一些扩展挑战：GPT-3需要每天几千petaflop/s计算量，而完整的GPT-2只需要几十petaflop/s。此外，还有更多关于GPT-3信息可在GitHub上找到。
