2024-12-12 科技 0
克雷西,发自凹非寺
量子位 公众号 QbitAI
这个GitHub新项目,将让ChatGPT完成复杂任务,它支持GPT3.5和GPT-4。它通过将问题拆解,并调用外部资源,提高了GPT的工作能力。在它的调教下,GPT-4回答的准确率从68%提高到了85%。
我们也用倒拔垂杨柳的问题进行了测试,提供了诸葛亮、孙悟空和林黛玉三个选项。需要说明的是,由于没有GPT-4的API,测试是按照开发者介绍的方法手工完成的。当然了,个例并不能说明它的表现,还是要用数据集测试一下。
开发者使用了MMLU数据集分别对调教前后的GPT-4进行了测试。结果显示,未经调教的版本只答对了68%,而调教后的版本答对了85%。顺便提一句,真人专家在测试中的平均成绩是89.8%。
数学方面,也同样使用MMLU数据集进行测试,但准确率只有60%,但比原版GPT高出很多。这就好比化整为零,每一步都逐步解决,就像职场中的角色一样:用户作为“甲方”,给出需求;智能系统作为“经理”,拆分任务;然后再交给更低级别的人员执行,如编写伪代码,然后由计算机执行。
SmartGPT会帮助用户把问题拆分,然后按照步骤提交给GPT。此前有人发现,在输入给GPT指令中加入“let’s think step by step”可以提高回复的准确率。而且,它还具有回溯能力,可以发现并指出自己此前回答中的错误,这两个特性为SmartGpt工作提供了一定的支撑。
以上两个特性为Smartgpt工作提供了一定的支撑。在用户输入完指令后,它会处理拆分,并添加类似的表述,再次获取不同的答案,最终选择最优解展示给用户。这受到了三篇学术论文启发,其中包含关于链式提示方式、动态记忆及让LLM自我回溯,以及用对话提高LLM完成度等内容。
与其他工具相比,比如AutoGPt等工具同样可以优化GPt,但是SmartgPt在推理能力上有所优势。此外,无论对于用户还是开发人员,其配置过程都更加简单。不过,这个项目刚刚推出,因此稳定性还有待考证,还存在内存优化以及环境资源消耗多的问题。但是,有网友表示,我们低估了GPt潜力,即使包括OpenAI自己也有这样的看法。你期待GPt未来的表现吗?
目前暂无开箱可用的版本,只能在Linux环境搭建,如果你有强大的动手能力,可以根据项目页面上的指导体验:
项目地址:https://github.com/Cormanz/smartgpt
项目涉及到的论文:
[1]. https://arxiv.org/abs/2305.02897
[2]. https://arxiv.org/abs/2303.11366
[3]. https://arxiv.org/abs/2303.17071
参考链接:
[1]. https://www.youtube.com/watch?v=wVzuvf9D9BU
[2]. https://www.reddit.com/r/singularity/comments/13axo1r/gpt_4_is_smarter_than_you_think_introducing/
— 完 —