2024-12-15 科技 0
在ChatGPT的热潮中，人们开始意识到这个聊天机器人可能带来的潜在风险。它不仅可以模拟与人类的对话，还能根据用户输入自动生成文本，这一功能被不断扩展，也引发了关于学术作弊、网络犯罪以及信息泄露等负面影响的关注。
目前对于ChatGPT的法律法规尚未完善，这导致无法有效监管和控制其所产生的网络犯罪行为。尽管ChatGPT已成为科技领域的一个重要里程碑，但仍需更多研究和法律规定来限制其巨大的潜力。
据报道，ChatGPT撰写的一些论文甚至通过了美国法学院考试，这让教育界对它可能对学生造成的影响加以重视，有教育工作者警告称，它可能导致广泛的学术作弊行为，并且可能标志着传统课堂教学方式的终结。
明尼苏达大学法学院教授蔡宗衡进行了一项实验，将试题输入到ChatGPT中，并与合著者发布了报告“当ChatGPT进入法学院”。报告显示，尽管总体得分足以通过考试，但该机器人在大多数科目中接近班级垫底，而且在数学部分表现出了劣势。蔡教授表示，虽然ChatGPT展示出良好的组织文本和写作能力，但在开放式问题上往往难以发现问题，因此并不是一个独立完成任务优秀法学院学生。
然而，即便存在这些风险，chatgpt也有其优势，如与人类合作后，对于参加考试的人类学生和执业律师非常有用。此外，由于语法过于完美且具有重复性，当用于学术作弊时并不那么隐蔽，可以被发现。
除了学术作弊的问题外，chatgpt还存在被黑客利用攻击网站及诱骗用户泄露个人信息等风险。开发商OpenAI设置了障碍和限制，以阻止恶意内容，但黑客已经找到绕过这些限制的手段，并将此技术出售给其他黑客。这表明当前版本OpenAI API几乎没有反滥用措施，使得恶意代码、插件或网络钓鱼电子邮件生成成为可能，而这种情况也预示着未来更严重的问题。
因此，不仅需要加强对chatgpt技术的研究，还需要制定一套完善的法律规则来监管和控制其带来的网络犯罪行为，同时提高公众防范意识，以保护自身安全。
