2025-03-10 行业资讯 0
教育与科技的错综：ChatGPT假新闻案件引关注，中国男子或面临5年监禁
在甘肃省，一起火车撞人事故的假新闻突然席卷网络，报道称9人遇难。然而，这并非一场真实的悲剧，而是一系列由ChatGPT编造的虚假信息。在百家号上，21个账号发布了不同版本的文章，涉及多个地点，如平凉市、兰州、陇南等地。
此事发生在荷兰海牙附近的一列载客火车与起重机相撞事件之后，该事故造成至少一名工人死亡和约30人受伤。这两起事故虽然在地理位置上有所差异，但其内容却惊人的相似。
警方调查后发现，这些假新闻都是由广东深圳一家自媒体公司发布，并且使用ChatGPT进行修改和编排，以避开审查。此外，该男子还创造了多个细微不同的版本，以增加欺骗性。他的目的是通过上传这些虚假消息来赚取流量并变现。
这不是一个孤立的情况。随着AI技术的发展，全球都面临着类似的挑战。美国共和党曾发布过一个AI生成的人工智能视频广告，其中描述了拜登再次当选后的移民浪潮和旧金山文明崩溃。而Reddit上的用户们则展示了如何用文本到图像生成器创建未经发生过的事故，比如“2001年卡斯卡迪亚9.1大地震和海啸”。
为了应对这种情况，不仅中国政府，也有其他国家开始制定相关法规。例如，在中国，由于ChatGPT等AI工具可能被用于散布错误信息，因此国家互联网信息办公室（CAC）已经提出了管理生成式AI服务法规草案。此外，美国也正在探索如何防止这种类型的问题，并确保这些工具不会被滥用以传播错误或误导性的信息。
尽管如此，对于如何有效规范化使用AI这一全球性问题，还存在许多未解之谜。但正如刘晓春教授所言，加强风险防范措施并响应监管要求是关键一步。此外，有必要加强公众意识，让人们了解识别虚假信息的手段，以及他们自己的责任在保护数据隐私方面。
最终，无论是在教育还是科技领域，都需要共同努力来解决这一复杂而又不断演变的问题。
