2024-12-14 科技 0
在最近的科技热潮中，ChatGPT这个人工智能聊天机器人的崛起引发了全球范围内的关注。它能够模仿人类与用户对话，并根据输入内容生成相关文本。随着其功能不断扩展，关于ChatGPT可能带来的负面影响也逐渐被人们所关注，如学术作弊、网络犯罪和信息泄露等问题。
目前，对于这些潜在风险尚未有完善的法律法规来监管和控制，这使得技术领域出现了一次重大转折点，但仍需要更多研究和法律规定来限制这种具有巨大能量的技术。
据报道，ChatGPT通过美国法学院考试撰写了论文，这让教育界开始担忧它可能对学生学习产生的影响，有人警告说，它可能导致广泛的学术作弊行为甚至标志着传统课堂教学方式终结。
一位名为蔡宗衡（Jonathan Choi）的教授进行了实验，他将试题输入到ChatGPT中并与学生们相同的问题进行比较，最终发现虽然ChatGPT总体得分足以通过，但在数学部分表现不佳，而且在开放式问题上“难以发现问题”，这恰好是法学院考试核心环节。而且该机器人虽然无法独立完成任务，但在与人类合作后，对于参加考试的法学院学生和执业律师非常有用。
尽管一些司法辖区禁止使用ChatGPT，但同样存在利用此技术攻击网站、发布垃圾邮件诱骗用户泄露个人信息以及推销非法产品服务等风险。此外，黑客已经找到绕过OpenAI设置障碍的一种方法，将其应用程序集成到恶意软件中，而没有任何反滥用措施，使得当前版本API容易受到滥用的困扰。
然而，网络安全专家指出正确使用该技术可以有效降低网络犯罪发生，同时还可以识别网上的不良信息及帮助监管机构搜集有关犯罪行为的情报，以阻止网络犯罪。此外，该技术还能提高企业及政府机构网络系统安全性，比如识别可疑活动或阻止攻击。
由于缺乏完善的法律框架来监管这些新兴科技，不仅需要加强研究，还要制定出一套完整而严格执行的人工智能监管制度，同时用户也应该提高防范意识保护自身安全。
