2024-12-12 科技 0
克雷西，发自凹非寺
量子位 公众号 QbitAI
这个GitHub新项目，将让ChatGPT完成复杂任务，它支持GPT3.5和GPT-4。它通过将问题拆解，并调用外部资源，提高了GPT的工作能力。在它的调教下，GPT-4回答的准确率从68%提高到了85%。
我们也用倒拔垂杨柳的问题进行了测试，提供了诸葛亮、孙悟空和林黛玉三个选项。需要说明的是，由于没有GPT-4的API，测试是按照开发者介绍的方法手工完成的。当然了，个例并不能说明它的表现，还是要用数据集测试一下。
开发者使用了MMLU数据集分别对调教前后的GPT-4进行了测试。结果显示，未经调教的版本只答对了68%，而调教后的版本答对了85%。顺便提一句，真人专家在测试中的平均成绩是89.8%。
数学方面，也同样使用MMLU数据集进行测试，但准确率只有60%，但比原版GPT高出很多。这就好比将SmartGPT中的环节形象地比作职场中的角色：“甲方”为用户，“经理”为处理任务，“老板”为制定计划，“员工”为编写伪代码，而“小黄人”则执行这些伪代码。
作为“甲方”，用户不需给出额外指令，只需像普通输入一样提出问题。而SmartGPT会帮助用户把问题拆分，然后按照步骤提交给GPT。此前有人发现，在输入中加入“let’s think step by step”可以提高回复准确率，同时还有回溯能力，可以发现并指出错误。
以上两个特性为SmartGpt工作提供重要支撑。在用户输入完指令后，它会处理拆分、添加类似表述、重复多次获取答案、发送要求回溯最优解，并最后展示最佳答案给用户，这些步骤受三篇学术论文启发，上述论文内容分别关于链式提示方式、动态记忆及LLM自我回溯以及用对话提升LLM完成度。
与其他工具相比，如AutoGpt等，其强大之处在于形成逻辑链条，使其拥有更强大的推理能力。此外，它由独立子模块组成，可以任意排列组合删改，对配置过程简单。但由于刚推出，有待考证稳定性，以及内存优化和环境资源消耗仍有所欠缺。不过，有网友表示低估了潜力，即包括OpenAI自己，也期待未来表现。
目前暂无开箱可用版本，但需要在Linux环境搭建，可根据项目页面指示体验：
项目地址：https://github.com/Cormanz/smartgpt
涉及论文：
[1]. https://arxiv.org/abs/2305.02897
[2]. https://arxiv.org/abs/2303.11366
[3]. https://arxiv.org/abs/2303.17071
参考链接：
[1]. https://www.youtube.com/watch?v=wVzuvf9D9BU
[2]. https://www.reddit.com/r/singularity/comments/13axo1r/gpt_4_is_smarter_than_you_think_introducing/
— 完 —
