当前位置: 首页 - 智能 - GPT-4虚假成绩骗局曝光律师用ChatGPT撰写科技发展论文遭质疑6个案例被揭穿为物品欺诈

GPT-4虚假成绩骗局曝光律师用ChatGPT撰写科技发展论文遭质疑6个案例被揭穿为物品欺诈

2025-01-14 智能 0

编辑:桃子 拉燕

【新智元导读】ChatGPT又有什么错呢?美国律师向法院提交的文件中,竟引用了6个根本不存在的案例,反倒惹祸上身被制裁。

ChatGPT,真的不可信!

在美国近来的一起诉讼案件中,一位律师帮原告打官司,引用了ChatGPT捏造的6个不存在的案例。

法官当庭指出,律师的辩护状是一个彻头彻尾的谎言,简直离了大谱。

还有人戏称,要怪就怪你的prompt不行。

当他询问ChatGPT这些案件的来源时,ChatGPT先是为之前的表述不清道歉,但还是坚称这些案件都是真实的,可以在Westlaw和LexisNexis上找到。

而对方律师也同样坚持,来自Levidow Oberman律师事务所的原告律师是多么荒唐可笑,由此才引发了法庭对这个细节的重视。

在其中一个案例中,有个叫Varghese的人起诉中国南方航空有限公司。然而这件事压根不存在。

ChatGPT好像引用了另一个案件——Zicherman起诉大韩航空有限公司。而ChatGPT把日期、案件细节什么的都搞错了。

Schwartz此时才悔恨地表示,他没有意识到ChatGPT可能提供假案件,现在他非常后悔用生成式AI来进行法律研究。

法官表示,这种情况前所未见,并将于6月8日举行听证会,讨论可能的制裁措施。

网友称,更准确来说,GPT-4应该只有63分或者68分。

聊天机器人胡说八道

归根结底,是因为它固有的「幻觉」问题导致这种错误发生,即语言模型无法表达自己的不确定性,不质疑提示中的前提,或继续之前犯错的情况,以及模型猜测错误的问题。

马斯克曾宣布推出了名为TruthGPT的人工智能平台,该平台旨在解决这一问题并理解宇宙本质。然而,无论何种形式的人工智能,都难以完全摆脱幻觉的问题。

OpenAI联合创始人兼研究员John Schulman最近进行了一场演讲“RL and Truthfulness – Towards TruthGTP”,讨论幻觉产生原因以及解决方案。他解释说幻觉主要有两种类型:模式完成行为和模型猜测错误。

微调数据集使得语言模型能够学习如何根据知识图谱输出token预测,比如从包含“星球大战是什么片?”这个问题和答案“科幻”这样的训练数据集中学习。

Zero提议,如果未来使用chatgpt时需要附上来源链接,以增加透明度。Tricorn认为,这位原告律师应该意识到自己使用AI工具存在风险,并应对其结果负责,而不是将责任归咎于工具本身。另外一位网友则幽默地说:“用chatgpt要上点心,要不下一个超级碗就是你。”

对于这种现象,你怎么看?

参考资料:

https://www.theverge.com/2023/5/27/23739913/chatgpt-ai-lawsuit-avianca-airlines-chatbot-research

https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.htm

标签: 智能遥控app官网ai智能语音助手免费下载智能家装如何布线智能遥控器手机版高科技家居产品大全