2024-12-14 科技 0
在ChatGPT的热潮中，潜藏着一把双刃剑。它不仅能够像真人一样与用户交谈，还能根据输入内容生成相关文本。随着功能的扩展，可能带来的负面影响也逐渐受到关注，如学术作弊、网络犯罪和信息泄露等。
目前关于ChatGPT的法律法规尚未完善，因此无法有效监管和控制其带来的网络犯罪行为。这款聊天机器人的出现，无疑是科技领域的一个重要里程碑，但仍需更多研究和法律规定来限制它巨大的能量。
使用ChatGPT进行作弊并不难被发现，因为它撰写的论文通过了美国法学院的考试，这让教育界对该软件可能对学生产生影响感到担忧，有些教育工作者警告称，它可能导致广泛的学术作弊行为，并标志传统课堂教学方式终结。
明尼苏达大学法学院教授蔡宗衡做了一个实验，他在ChatGPT中输入与学生试题相同的问题，并将结果整理后发布报告“当ChatGPT进入法学院”。报告显示尽管总体得分足以通过考试，但该机器人在大多数科目接近班级垫底，数学选择题表现尤为差劣。在开放式问题上，ChatGPT往往“难以发现问题”，但这样的聊天机器人合作后，对参加考试的人非常有用。
然而，据科技媒体报道，ChatGPT还存在被黑客利用攻击网站风险。这些黑客利用虚假社交平台账号发布有害信息并诱导访客进入相关网站。此外，他们还利用ChatGPT发布垃圾邮件诱骗用户泄露个人信息，并推销非法产品和服务。
开发商OpenAI设置障碍和限制阻止恶意内容，但网络安全公司CheckPoint Research指出，有技术可以绕过这些限制。黑客论坛上销售这种非法服务，该技术通过API而不是Web接口使用，而API提供给应用程序集成到AI机器人中。
当前版本OpenAI API几乎没有反滥用措施，使得犯罪分子可以创建恶意内容而不受限制或障碍。未来也可能因此出现更多网络攻击事件，其危害增加。而且，即使正确使用该技术，也可以有效降低网络犯罪发生率，比如快速识别不良信息、帮助监管机构搜集有关犯罪行为有效信息，以及提高系统安全性等。但由于法律尚未完善，加强研究制定规则并严格执行至关重要，同时用户应加强防范意识，以保护自身网络安全。
