2024-12-15 科技 0
在ChatGPT的热潮中，人们开始意识到这款聊天机器人的潜在风险。它不仅可以模拟与用户的对话，还能根据输入生成文本，这些功能可能导致负面影响，如学术作弊、网络犯罪和信息泄露等问题。
目前关于ChatGPT的法律法规尚未完善，因此无法有效监管和控制其带来的网络犯罪行为。尽管ChatGPT被用于法学院考试取得了成功，但教育工作者警告称，它可能导致广泛的学术作弊，并标志着传统课堂教学方式的终结。
一个明尼苏达大学法学院教授进行的一项实验表明，虽然ChatGPT表现出了对基本法律规则的把握和组织文本能力，但它在开放式问题上表现不佳，这恰好是法学院考试中的关键领域。
尽管一些司法辖区禁止使用ChatGPT，但它仍然有其优势，在与人类合作时，对于参加考试的人或执业律师非常有用。而且，使用它作弊并不隐蔽，因为语法过于完美且具有重复性，是易被发现的情况。
此外，黑客利用ChatGPT构建虚假社交平台账号发布有害信息并诱导访客进入相关网站，也存在通过垃圾邮件诱骗用户泄露个人信息，以及推销非法产品和服务的情况。开发商OpenAI设置障碍限制阻止恶意内容创建，但黑客已经找到绕过这些限制的手段，并销售这种非法服务。
研究人员指出当前版本API几乎没有反滥用措施，因此可以被外部应用程序使用来创建恶意内容。此种情况下，未来也可能因此出现更多网络攻击事件，其危害也有可能会随之增加。然而，同时也有人认为正确使用该技术可以有效降低网络犯罪发生率，它可以帮助识别不良信息、搜集有关犯罪行为信息以阻止以及提高网络系统安全性。
为了更好地监管和控制由ChatGPT引发的问题，有专家建议加强对技术的研究，并制定出一套完善的法律规则，以防止其成为双刃剑带来的危害。在这个过程中，加强用户防范意识也是至关重要的一步，以保护自身免受骗子欺骗，为维护个人数据安全做好准备。
