2025-03-10 行业资讯 0
在高科技行业的十大领域中，人工智能的应用日益广泛，但也伴随着新的挑战和风险。最近，一起利用ChatGPT编造「火车撞人」假新闻的案件在中国引起了社会的广泛关注。这起事件涉及一个男子，他使用ChatGPT修改了真实新闻中的关键元素，创造出多个版本的假新闻，并通过百家号等平台发布，这些假新闻声称发生在甘肃省不同的地点，造成了公众对实际情况的混淆。
警方迅速介入调查，并发现这些报道是由来自深圳的一家自媒体公司账号发出的。嫌疑人洪姓男子被捕后，被发现他利用ChatGPT编辑并上传到网络上的不同版本，以此来获得流量并从中获利。他的行为可能面临最高五年监禁之刑，这也是中国首例因滥用AI而被捕的人。
这起事件凸显了人工智能技术带来的隐患，以及如何有效监管这一技术以防止其用于非法目的成为一个全球性问题。在美国和其他国家，也有类似的案例出现，其中包括政治广告和社交媒体上的人工智能生成内容。
为了应对这一挑战，中国政府已经开始制定相关法律法规，比如《互联网信息服务深度合成管理规定》，旨在促进AI产业发展，同时防止技术滥用。此外，有提议将不生成虚假信息、明确标记AI制作内容以及确保数据训练无歧视作为拟议法规的一部分。但正如专家所指出的，这是一个需要时间慢慢打磨的问题。
