2024-12-15 科技 0
近日，人工智能聊天机器人ChatGPT在全球范围内引起了广泛关注。它不仅能够模拟真实的人类交流，还能根据用户输入自动生成文本。随着其功能的不断拓展，人们对可能产生的负面影响也越来越担忧，如学术作弊、网络犯罪和信息泄露等问题。
目前关于ChatGPT的法律法规尚未完善，这使得监管和控制其带来的网络犯罪行为变得困难。这款聊天机器人的出现无疑是科技领域的一个重要里程碑，但仍需更多研究和法律规定来限制其潜在的危害。
使用ChatGPT作弊容易被发现
让ChatGPT受到如此多关注的一个原因是，它撰写的论文竟然通过了美国法学院的考试。据报道，该机器人撰写了从宪法到侵权等主题的论文，并一一通过了法学院的考试。这种结果让教育界重视起该软件对学生们可能造成的问题，有教育工作者警告称，ChatGPT可能会导致广泛学术作弊行为甚至标志传统课堂教学方式终结。
明尼苏达大学法学院教授蔡宗衡进行了一次实验，他将与学生需要回答的问题输入到ChatGPT中，并将结果整理后与合著者发布报告“当ChatGPT进入法学院”。该报告指出，尽管总体得分足以通过考试，但该机器人在大多数科目中都接近班级垫底，在数学题中表现尤为劣势。在开放式问题上，虽然.Chat.GP有时难以发现问题，但这恰好也是法学院考试核心部分。而且，即使存在优势，也可以被发现而非隐蔽，因此不会那么容易导致作弊。
目前纽约以及其他司法辖区已禁止学校使用ChatGPT，但蔡宗衡认为，这样的聊天机器人有自身优势，在与人类合作后，对于参加考试或执业律师非常有用。不过他同时指出，当用于学术作弊时并没有那么隐蔽，因为语法过于完美且具有重复性，是易被发现的情况。
对现有管制不足
此外，据科技媒体CXO Today报道，黑客利用ChatGPT构建虚假社交平台账号，以发布有害信息并诱导访客进入相关网站。此外，他们还利用它发布垃圾邮件、诱骗用户泄露个人信息及推销非法产品服务。
为了阻止恶意内容创建开发商OpenAI设置障碍和限制。但研究人员表示网络犯罪分子正在绕过这些限制。
黑客已经找到一种简单方法绕过这些限制，并在黑客论坛销售这种非法人工服务。这技术通过使用应用程序编程接口，而不是基于Web（全球广域网）的接口。
研究人员表示，“当前版本OpenAI API几乎没有反滥用措施。”因此它们可以创建恶意内容，不受用户界面设置或障碍影响。
随着人工智能技术进步，将会出现更多网络攻击事件，其危害也有增加风险。科技网站Ars Technica指出生成恶意代码、插件和钓鱼电子邮件只是一个潘多拉魔盒开启的一种方式，它还有可能生成有害内容或侵犯隐私。不过网络安全专家也可开发检测方法阻止不安全行为，但是否能既防止恶意使用又不妨碍良性使用仍未知晓。
虽然技术本身存在一定风险但正确使用可以降低犯罪发生率。它快速识别论坛上的坏消息，如暴力欺诈虚假信息等。此外帮助监管机构搜集有关犯罪行为有效信息以阻止他们。在安全方面提高系统安全，比如识别可疑活动及时阻止攻击等。
由于目前关于法律缺乏完善无法很好监控控制所带网络犯罪行为，有专家建议加强对技术研究制定完善法律严格执行规定，同时用户应增强防范意识养成良好习惯保护自身安全避免成为目标。
