2024-12-15 科技 0
在ChatGPT的热潮中，人们开始意识到这款聊天机器人的潜在风险。它不仅可以模拟与用户的对话，还能根据输入生成文本，这些功能使得学术作弊、网络犯罪和信息泄露等问题日益凸显。尽管ChatGPT被用于美国法学院考试中取得了成功，但教育工作者警告称，它可能导致广泛的学术作弊行为，甚至改变传统教学方式。
明尼苏达大学法学院教授蔡宗衡通过实验发现，ChatGPT虽然能够写出合理的法律论文，但在开放式问题上表现较弱，并且容易被发现。这表明ChatGPT并不适合独立完成复杂任务。但蔡宗衡同时认为，ChatGPT在与人类合作时非常有用，对于参加考试的学生和律师来说是宝贵的资源。
然而，不同司法辖区已经禁止使用ChatGPT进行学校学习，而黑客则利用其创建虚假社交媒体账号发布恶意信息和垃圾邮件。此外，有人还利用它制作网络钓鱼电子邮件诱导用户泄露个人信息或购买非法产品服务。开发商OpenAI设立障碍限制恶意内容，但黑客已找到绕过这些限制的手段。
研究人员指出当前版本OpenAI API几乎没有反滥用措施，因此可能会导致更多网络攻击事件。尽管科技工作者正在开发检测方法阻止这些行为，但目前尚未清楚是否可同时限制恶意使用而不影响良性使用。
虽然技术存在风险但正确使用可以降低犯罪发生概率，例如识别网上不良信息、帮助监管机构搜集犯罪信息及提高网络安全性。不过，由于相关法律缺乏完善ness无法有效监管控制，因此需要加强研究制定完善规则并严格执行，同时提升用户防范意识以保护自身安全。
