2024-12-14 科技 0
近日，人工智能聊天机器人ChatGPT在全球范围内引起了广泛关注。它不仅能够模拟真实的人类交流，还能根据用户输入自动生成文本。随着其功能的不断拓展，人们对可能产生的负面影响也越来越担忧，如学术作弊、网络犯罪和信息泄露等问题。
目前关于ChatGPT的法律法规尚未完善，这使得监管和控制其带来的网络犯罪行为变得困难。这款聊天机器人的出现无疑是科技领域的一个重要里程碑，但仍需更多研究和法律规定来限制其潜在的危害。
使用ChatGPT作弊容易被发现
让ChatGPT受到如此多关注的一个原因是，它撰写的论文竟然通过了美国法学院的考试。据报道，该机器人撰写了一系列主题包括宪法、税收到侵权等，并一一通过了法学院的考试。这导致教育界重视该软件可能对学生造成影响，有教育工作者警告称，ChatGPT可能导致广泛学术作弊行为甚至标志传统课堂教学方式终结。
明尼苏达大学法学院教授蔡宗衡进行了一次实验，将试题输入给ChatGPT，并将结果与合著者发布报告“当ChatGPT进入法学院”。报告指出尽管总体得分足以通过，但该机器人在大多数科目中都接近班级垫底，而且在数学部分显示劣势。而且，在开放式问题上，虽然表达清晰但往往难以发现问题，因此并不适合独立完成任务。
目前纽约及其他司法辖区已禁止学校使用此技术，而蔡宗衡认为这款语言模型合作后，对参加考试学生或律师非常有用。但他同时指出，当用于学术作弊时并没有那么隐蔽，因为语法过于完美且具有重复性，是可以被发现的问题。
对现有管制不足
此外，据报道 ChatGPT还存在被黑客利用攻击网站风险。此种情况下黑客会构建虚假社交平台账号发布有害信息，并诱导访客访问相关网站。此外，他们还会利用这种技术发送垃圾邮件诱骗用户泄露个人信息或者推销非法产品服务。
为了阻止这些恶意活动开发商OpenAI设定障碍和限制。但研究人员表示网络犯罪分子正在绕开这些限制。
据悉黑客已经找到一种简单方法绕过这些限制并销售这种非法服务。他们使用的是API而不是基于Web接口。在当前版本中几乎没有反滥用措施，使得犯罪分子可以创建恶意内容，不受用户界面设置或障碍限制。
随着AI技术进步未来可能出现更多网络攻击事件，其危害也许随之增加。科技网站Ars Technica指出生成恶意代码、插件以及钓鱼电子邮件只是打开潘多拉魔盒的一种方式，它还有可能被用于生成有害内容或侵犯隐私。不过，也有人提议可以就此开发检测方法阻止不安全行为，但是否能既防止恶意使用又不影响良性使用仍然是个挑战。
虽然技术本身存在风险正确应用则可降低网络犯罪发生概率。它能够快速识别论坛上的不良信息如暴力欺诈虚假消息等。此外，它还能帮助监管机构搜集有关犯罪行为有效信息以迅速阻止罪行。在安全方面，可以提高系统安全，比如识别可疑活动及时阻止攻击。
由于现行法律无法很好监管和控制所带来的网络犯罪，有专家建议加强对该技术研究制定完善法律规则严格执行，同时加强防范意识保护自身网安。
