2024-12-14 科技 0
近日，人工智能聊天机器人ChatGPT在全球范围内引起了广泛的关注。它能够模拟与真实的人类进行交流，并根据用户输入自动生成文本。随着其功能的不断拓展，人们对可能产生的负面影响也越来越担忧，如学术作弊、网络犯罪和信息泄露等问题。
目前关于ChatGPT的法律法规尚不完善，这使得监管和控制其带来的网络犯罪行为变得困难。这款聊天机器人的出现无疑是科技领域的一个重要里程碑，但仍需更多研究和法律规定来限制其潜在能量。
ChatGPT通过美国法学院考试的事实让教育界重视起来，其可能导致广泛的学术作弊行为甚至标志着传统课堂教学方式的终结。明尼苏达大学法学院教授蔡宗衡对此做了实验，他发现ChatGPT虽然表现出组织文本和写作能力，但在开放式问题上“难以发现问题”，并不是一个独立完成任务的优秀法学院学生。
尽管纽约等司法辖区已经禁止学校使用ChatGPT，但蔡宗衡认为，它对于合作后使用非常有用，并且当用于学术作弊时并不隐蔽，因为其语法过于完美且具有重复性，是可以被发现的。
除了学术作弊之外，ChatGPT还存在被黑客利用攻击网站及诱导用户泄露个人信息等风险。开发商OpenAI设置障碍和限制阻止恶意内容创建，但已有黑客找到绕过这些限制的一种方法，并在黑客论坛中销售这种非法服务。
当前版本OpenAI API几乎没有反滥用措施，使得犯罪分子可以利用这个方法生成恶意内容，而不受界面设置或障碍限制。此技术还可能被用于生成有害内容或侵犯用户隐私，因此网络安全工作者正在开发检测方法阻止这些行为。但是否能既防止恶意使用又不影响良性使用仍未知晓。
虽然技术本身存在一定风险但正确使用可以降低网络犯罪发生概率。它可以快速识别网上的不良信息并帮助监管机构搜集有关犯罪行为有效信息，以便尽快阻止网络犯罪。此外，还可提高网络系统安全性，比如识别可疑活动、阻止攻击等。
由于缺乏完善法律规则，有专家建议加强对ChatGPT技术研究，制定出一套严格执行相关规定，同时加强自身防范意识，以保护自己免受骗子的伤害维护个人网络安全。在这一过程中，也需要科技部人才与科学普及司积极参与，为公众提供科学知识，让大家更好地理解这项高科技产品背后的潜在风险，从而采取适当措施保护自己的权益。
