2024-12-12 科技 0
克雷西，发自凹非寺
量子位 公众号 QbitAI
这个GitHub新项目，将让ChatGPT完成复杂任务，它支持GPT3.5和GPT-4。它通过将问题拆解，并调用外部资源，提高了GPT的工作能力。在它的调教下，GPT-4回答的准确率从68%提高到了85%。
经过调教之后，我们也用倒拔垂杨柳的问题进行了测试，提供了诸葛亮、孙悟空和林黛玉三个选项。需要说明的是，由于没有GPT-4的API，测试是按照开发者介绍的方法手工完成的。当然了，个例并不能说明它的表现，还是要用数据集测试一下。
开发者使用了MMLU数据集分别对调教前后的GPT-4进行了测试。结果显示，未经调教的版本只答对了68%，而调教后的版本答对了85%。顺便提一句，真人专家在测试中的平均成绩是89.8%。
数学方面同样使用MMLU数据集进行测试，其中选择15个大学难度的问题。虽然准确率只有60%，但也是及格了，而且比原版GPT40%已经好了太多。这就像化整为零，将SmartGPT中的环节形象地比作职场中的角色：
“甲方”：SmartGPT用户。“经理”：和“甲方”对接，把任务拆分成高级子任务并逐一汇报给“老板”。 “老板”：制定计划，将高级子任务再次拆分，并分发给“员工”。 “员工”：接收任务编写伪代码，然后交给“小黄人执行”。 “小黄人”：将伪代码优化成LUA脚本并运行。
作为“甲方”的用户，只需像使用普通GPT一样输入自己的问题，而不必给出额外指令。
SmartGPT会帮助用户把问题拆分，然后按照步骤提交给GTP。此前有人发现，在输入给GT的一个提示中加入"let’s think step by step"可以提高回复准确率。此外,GTP具有回溯能力，可以发现并指出自己此前回答中的错误。这两个特性为Smartgpt工作提供了一定的支撑。
上述步骤受到了三篇学术论文启发，这三篇论文内容分别关于"链式提示方式","动态记忆及让LLM自我回溯"以及"用对话提高LLM完成度”。
相比其他工具，如AutoGPt等，它们同样可以优化GPt，但Smartgpt有更强大的推理能力。此外，无论对于用户还是开发人员，其配置过程都更加简单。不过目前，该项目刚推出，不久，因此稳定性还有待考证。在内存优化方面也有所欠缺，同时消耗环境资源更多。
在项目推出后，有网友表示我们低估了GPt潜力，即使包括OpenAI自己。你期待GPt未来的表现吗？截至目前暂无开箱可用的版本，你需要在Linux环境中搭建动手能力较强读者可根据项目页面上的指示体验该项目地址为https://github.com/Cormanz/smartgpt涉及到的论文链接如下：
[1]. https://arxiv.org/abs/2305.02897
[2]. https://arxiv.org/abs/2303.11366
[3]. https://arxiv.org/abs/2303.17071
参考链接：
[1]. https://www.youtube.com/watch?v=wVzuvf9D9BU
[2]. https://www.reddit.com/r/singularity/comments/13axo1r/gpt_4_is_smarter_than_you_think_introducing/
— 完 —
