2025-01-15 手机 0
据外媒MSPoweruser报道，GPT代表了一个全新的AI语言模型，其核心算法被称为Generative Pre-training Transformer。这个模型是由Alec Radford精心设计，并于2018年由埃隆·马斯克的OpenAI研究实验室正式发布。GPT采用了一种独特的生成式语言模型架构，其中两个神经网络通过竞争机制相互完善，从而能够有效地处理各种书面材料和长篇连载文本。
随后在2019年2月，OpenAI宣布推出其更先进版本——GPT-2。这一模型是在800万份文档上进行了大规模训练，每个文档共计40GB，这些数据源自Reddit用户分享的文章。在此之前，埃隆·马斯克曾对公开发布GPT-2表示担忧，他认为这可能会导致假新闻在社交媒体上迅速传播。
2020年的5月，又迎来了一个重大里程碑——GPT-3。这一版本与前两代相比，其参数数量增长了两个数量级，从15亿增加到1750亿。此次更新带来了显著提升，使得该模型能够更加准确地理解和生成人类样本。
给定任何文字提示，GPT-3都能返回一段内容，以匹配用户提供的模式。它不仅可以根据示例编写完整文章或故事，还能帮助开发者使用纯文本描述创建应用程序。甚至，它还可以作为一种搜索引擎或智慧顾问，用以解释复杂概念。
尽管这种技术似乎已经迈向创造像人类一样理解、推理和交流的人工智能，但OpenAI警告说，他们目前遇到了扩展能力的一系列挑战。由于其巨大的计算需求，即使是较小型的版本也需要几千petaflop/s-day，而完整版的GPT-2则只能达到几十petaflop/s-day。此外，在GitHub等平台上，也有更多关于如何进一步探索这一技术领域的手册可供查阅。
