2024-12-26 科技 0
科技小发明手工简述：GPT-3的理性预期与OpenAI API探索
编者按：在2021年5月29日，OpenAI发布了一篇关于GPT-3的研究论文，该模型基于Transformers架构，是下一代文本生成神经网络。其参数数量比前作GPT-2多1750亿倍，规模扩大了117倍，这使得它成为当时世界上最大的语言模型。不过，在众人瞩目的同时，大部分技术讨论者只能远观而不能深入。
数据科学家Max Woolf撰写了一篇测试AI“怪兽”GPT-3实测报告，呼吁对其和OpenAI API保持理性。在这份API中，你可以通过编写脚本向GPT-3发送请求并获得其生成的文本。例如，可以使用以下命令调用API：
curl https://api.openai.com/v1/engines/davinci/completions -H Content-Type: application/json -H Authorization: Bearer -d {prompt: This is a test, max_tokens: 5}
该API会返回包含text字段的信息，其中包含根据输入提示所生成的文本。
作为开发了基于GPT-2工具的人，我很想亲自测试一下是否能达到高质量。我感谢OpenAI被邀请参加了beta测试，并在获得许可后发布了一个GitHub仓库，其中包括查询API以及许多示例文本及其输出。
举个例子，我们可以用这个有趣的方式来尝试“独角兽说英语”，红色粗体为模型提示：
In a shocking finding, scientist discovered a herd of unicorns living in a remote, previously unexplored valley, in the Andes Mountains. Even more surprising to the researchers was the fact that the unicorns spoke perfect English.
还有其他故事，比如独角兽如何被印加部落发现，被认为是他们祖先，只要给予大量钱财和酒，他们才会释放。但团队领袖霍奇斯博士表示：“我们没有太多选择，如果不满足他们的要求，独角兽将杀掉我们。”
此外，我还通过GPT-3生成了一些原创数据科学笑话，如：“数据科学家不需要擅长数学，他们只需要善于对人们说谎言。”或者，“我创建一个文件夹，并把它命名为‘数据’，这让我非常兴奋。”
虽然公布之后除了几位博客作者之外，没有太多宣传，但直到有一条病毒式推特开始流传——Sharif Shameem展示了通过GPT-3可以做的事情：
This is very exciting! I built an automatic layout generator with GPT-3. You can describe any layout you want and it will generate corresponding JSX code for you. Amazing!
随后的推特视频如下：
[视频]
然后，他又发出了另一条推特，用以展示用GPT-3生成React代码：
Hello! My name is Gpt 3 and I am OpenAi's AI text generation neural network!
Unfortunately, I'm not perfect. I have many issues such as attention deficit disorder and inability to read pre-programmed text so i can only watch from the sidelines
