2025-03-09 智能 0
新智元导读：GPT-5无需手写代码，MIT微软揭秘GPT-4自我修复机制
编辑部注意到，最近一项令人瞩目的研究成果证明了GPT-4在代码修复领域的独特能力。它不仅能够进行自我纠错，而且还能为同级别的模型提供反馈，从而实现更高效的迭代过程。这一切背后，是什么样的技术奇迹在运作？
我们知道，大型语言模型（LLM）具备自省能力，可以对其生成的代码进行分析和改进。但是，对于这些模型来说，有效地执行这项任务并非易事。近期，一组来自MIT和微软的学者发现，只有GPT-4能够有效地完成这一目标。
他们通过对比GPT-3.5和GPT-4两款模型在代码修复方面的表现来得出结论。实验结果显示，即使是在预算有限的情况下，GPT-4也能够实现性能提升，而对于GPT-3.5来说，无论预算如何，都无法达到相同水平。
此外，研究人员还发现，当使用由GPT-4生成的反馈来替换错误解释时，可以获得更好的自我修复效果，这甚至超过了基于基准无修复方法的性能。在某些情况下，即便人类程序员提供了解释，也无法达到与之匹配的人工智能系统。
为了深入了解这个过程，他们定义了一套四阶段自我修复方法：首先是代码生成，然后是执行、反馈生成以及最后的是代码修复。每个阶段都需要精确控制，以确保最终结果符合预期。
关于作者介绍：
Jianfeng Gao（高剑锋），副总裁兼科学家，为IEEE Fellow，并领导着微软研究院Redmond分部深度学习组。
Chenglong Wang（王程龙），研究员，在华盛顿大学获得博士学位，并曾就读于北京大学。
参考文献：
https://twitter.com/DrJimFan/status/1675916565823516673
https://arxiv.org/pdf/2306.09896.pdf
