2025-01-15 数码 0
据外媒MSPoweruser报道，GPT代表了Generative Pre-training Transformer这一先进的语言模型技术，由Alec Radford精心设计，并于2018年由埃隆·马斯克创立的人工智能研究实验室OpenAI正式发布。这种革命性的语言模型通过采用两个神经网络相互完善的生成式机制，能够在庞大的书面材料和长篇连载文本库中进行预训练，从而实现对世界知识的深入理解和处理复杂依赖关系。
GPT-2在2019年2月公布，其为无监督学习型转化语言模型，在800万份文档上经过训练，共计40GB的丰富文本资源来源于Reddit用户分享的文章。尽管埃隆·马斯克对其公开性持有保留态度，他担忧这可能被用于散播虚假信息到社交媒体平台。
2020年5月，OpenAI推出了GPT-3，这一新版本拥有比前辈GPT-2多几个数量级参数（1750亿个参数对比15亿），显著提升了性能。此模型可以接收任何文本提示，并以匹配用户模式为基准返回完整文本内容。用户仅需提供示例，就能获得全新的文章或故事，如下所述：
Jordan Singer还开发了一款Figma插件，使得人们可以通过纯文字描述来创建应用程序界面。
此外，这种技术也被探索作为搜索引擎、智慧顾问甚至概念解释与扩展工具。
虽然这种方法看似将带来一个像人类一样理解、推理并进行对话的人工智能，但OpenAI警告称他们已经遇到了基础扩展问题，即GPT-3需要每天数千petaflop/s计算能力，而相较之下完整的GPT-2只有几十petaflop/s能力。在GitHub上，有更多关于GPT-3详细信息可供探究。
