2024-12-14 科技 0
在ChatGPT的热潮中，潜藏着一把双刃剑。它不仅能够像真实的人那样与用户进行模拟对话，还能根据输入内容自动生成文本。这项技术的扩展也引发了关于其可能带来的负面影响的讨论，如学术作弊、网络犯罪和信息泄露等。
目前，关于ChatGPT的法律法规还未完全成熟，因此无法有效监管和控制它所产生的网络犯罪行为。这种聊天机器人的出现，无疑是科技领域的一个重要里程碑，但仍需要更多研究和法律规定来限制其巨大的潜力。
使用ChatGPT作弊容易被发现
让ChatGPT受到如此多关注的一大原因是，它撰写的论文通过了美国法学院考试。据报道，这个由大量互联网数据驱动的聊天机器人撰写了从宪法到侵权等主题的论文，并一一通过了法学院考试。这导致教育界重视起该软件对学生们可能造成的影响，有教育工作者警告称，ChatGPT可能会导致广泛学术作弊行为，甚至标志着传统课堂教学方式终结。
明尼苏达大学法学院教授蔡宗衡（Jonathan Choi）为此做了一个实验，他在ChatGPT中输入了与学生需作答相同的问题，并将结果整理后与合著者发布报告“当ChatGPT进入法学院”。该报告指出，尽管总体得分足以通过考试，但该机器人在大多数科目中都接近班级垫底。在开放式问题上，ChatGPT往往“难以发现问题”，而这恰好是法学院考试核心。而且，即使是在开放式题目的答案较为复杂时，这种回答也非常容易被识别出来。
目前纽约以及其他司法辖区已禁止学校使用ChatGPT，但蔡宗衡认为，在与人类合作后，该语言模型对参加考试的人类学生或律师非常有用。他同时指出，当用于学术作弊时，它并没有那么隐蔽，因为语法过于完美且具有重复性，是可以被发现的情况。
对现有的管制不足
除了作为一种工具来帮助学习外，对于黑客来说，利用这个系统构建虚假社交平台账号发布有害信息、发送垃圾邮件诱骗用户泄露个人信息，以及推销非法产品服务都是很简单的事情。开发商OpenAI设置了一些障碍和限制，但是黑客已经找到绕过这些限制的一种方法，并销售这种非正规服务给他人。此方法利用的是应用程序编程接口，而不是Web端API，以避开OpenAI设定的保护措施。
当前版本OpenAI API几乎没有反滥用措施，因此任何外部应用程序都可以轻易地集成进去，从而生成恶意内容。不仅如此，该技术还有能力生成有害内容或侵犯用户隐私，这些风险随着时间推移将不断增加。不过，也有一些研究人员正在努力开发检测这些不安全行为的手段，以阻止它们发生，同时保持良性使用该技术的手段可行性尚未清楚。
