2025-03-10 行业资讯 0
大数据文摘出品
作者：Caleb
4月25日，据一篇百家号文章报道，一列甘肃省的火车与公路工人发生冲突，造成9人死亡。警方随后展开调查，并发现21个账号在平台上发布了不同的版本，这些版本涉及不同的事故地点，如平凉市崆峒区、兰州、陇南、定西和庆阳。
此外，在荷兰，一列载有乘客的火车于周二撞上了一个起重机并脱轨，导致至少一名工人死亡和约30人受伤。这是该国多年来最严重的铁路事故之一。
相关报道迅速获得关注，短时间内点击量超过15,000次。然而，当考虑到同时发生相似事件时，这种巧合似乎太过不自然。
事实证明，这些报道都是假新闻。一名嫌疑男子被中国公安局网安大队抓捕，他使用ChatGPT修改近年来的社会热点新闻元素，并上传至自媒体公司购买的百家号账号，以获取流量并变现。
不仅如此，该男子还利用ChatGPT创建了多个细微差异化的假新闻版本，以避免审查。此案件正在进一步侦办中。
首例因滥用AI而被捕的人员面临最高5年的监禁。他违反了中国今年1月颁布的人工智能深度合成管理规定，该规定旨在促进产业发展，同时防止技术滥用。
随着ChatGPT等生成式AI服务的流行，中国政府正在推动相关法规草案以规范其使用。国家互联网信息办公室（CAC）已宣布将于某个未确定日期生效新法规，对生成式AI服务进行管理。
全球范围内对规范化使用AI是一个挑战。在美国，有社交媒体广告甚至错误地展示了拜登再次当选后的移民危机和旧金山文化崩溃的情况。而Reddit上的用户则分享了他们如何利用文本到图像生成器创造出从未发生过的历史事件，比如“2001年卡斯卡迪亚9.1地震和海啸”。
立法者正努力制定新的规定，不仅要禁止生成虚假信息，还要确保内容标记为由AI制作，以及确保用于训练这些模型数据不包含歧视性特征。但这是一项长期且复杂的任务需要时间去完善。
相关链接：
https://www.vice.com/en/article/y3wvjm/china-arrests-man-for-allegedly-using-chatgpt-to-create-fake-news
https://www.cnbc.com/2023/05/09/chinese-police-arrest-man-who-allegedly-used-chatgpt-to-spread-fake-news.html
