2024-12-14 科技 0
在ChatGPT的热潮中，潜藏着一把双刃剑。它不仅能够像真人一样与用户交谈，还能根据输入内容生成文本。这项技术的扩展可能带来负面影响，如学术作弊、网络犯罪和信息泄露等问题。
目前关于ChatGPT的法律法规尚未完善，因此无法有效监管其产生的网络犯罪行为。尽管这款聊天机器人的出现是一个科技领域里程碑事件，但仍需要更多研究和法律规定来限制它的巨大能量。
ChatGPT被用于作弊也相对容易被发现，因为它撰写的论文通过了美国法学院考试，这引起了教育界对其可能造成影响的重视，有教育工作者警告说，它可能导致广泛学术作弊甚至终结传统课堂教学方式。
明尼苏达大学法学院教授蔡宗衡进行了一次实验，他在ChatGPT中输入了与学生相同的问题，并将结果整理后发布报告。在开放式问题上，ChatGPT往往“难以发现问题”，而这恰好是法学院考试核心。不过，蔡宗衡认为，与人类合作时，语言模型如ChatGPT对于参加考试的学生和执业律师非常有用，但使用时不会那么隐蔽，可以被发现。
除了学术作弊之外，据报道，黑客还利用ChatGPT攻击网站并诱导访客进入相关网站。此外，他们还利用该工具发布垃圾邮件、诈骗个人信息以及推销非法产品和服务。开发商OpenAI设置障碍以阻止恶意内容，但黑客已经找到绕过这些限制的一种方法，并且正在销售此类服务。
由于当前版本API几乎没有反滥用措施，这使得犯罪分子可以创建恶意内容而不受限制。而随着人工智能技术进步，将会出现更多网络攻击事件，其危害有可能增加。然而，也有人提出网络安全工作者可以开发检测方法来阻止这些不安全行为，同时保持良性使用。如果正确使用，该技术可以降低网络犯罪发生率，比如快速识别出暴力或虚假信息，还能帮助监管机构搜集有关犯罪行为信息，以便及时阻止。但是，由于现行法律不足以很好地监管这一技术，因此需要加强研究并制定完善规则，加强执行保护用户隐私安全。
