2025-03-10 行业资讯 0
大数据文摘出品
作者：Caleb
4月25日，据一篇百家号文章报道，一列甘肃省的火车与公路工人发生冲突，造成9人丧生。
警方迅速介入并发现，有21个账号在网络上发布了不同的版本该事件，其中包括平凉市崆峒区、兰州、陇南、定西和庆阳等地的事故地点。
此前，一辆荷兰火车在海牙附近撞上起重机并脱轨，导致至少1名工人死亡和约30人受伤，这是该国近年来最严重的铁路事故之一。
相关新闻很快吸引了超过15,000次点击，但事实证明，这些报道都是假新闻。
中国公安局网安大队调查后发现，上述文章的发布者都属于广东深圳一家自媒体公司。
5月5日，警方前往嫌疑人的住所进行取证，并通过审讯了解到，该男子利用ChatGPT修改时间、地点、日期或性别等元素，将社会热点新闻改编成假新闻以赚取流量和利润。
不仅如此，他还使用ChatGPT创造多个细微差异化的假新闻，以避免被平台审查系统检测到。洪姓男子主要通过购买百家号账户非法获取收益，其案件目前正进一步侦办中。
警方指出，由于洪姓男子散布虚假信息供他人浏览，他涉嫌寻衅滋事罪，因此对其采取刑事强制措施，最终可能判处五年有期徒刑。
这是中国根据《互联网信息服务深度合成管理规定》于今年1月实施以来首例因滥用AI而被捕的案件。这项规定旨在促进AI产业发展，同时防止技术滥用，并要求提供合成视频和照片明确标注来源，以防混淆。
随着ChatGPT流行，中国科技巨头百度及其他公司也推出了竞品。此外，国家互联网信息办公室（CAC）预计将于某时推出管理生成式AI服务法规草案。ACA表示国家支持AI创新应用，但相关产品应符合法律法规要求，以及尊重社会公德和公共秩序。
规范化使用AI是一个全球性挑战，不仅限于中国。在美国，一则由共和党制作的人工智能视频广告误导观众，如果拜登再次当选将引发美国与墨西哥边境的大规模移民浪潮以及旧金山文化崩溃。而Reddit上的Midjourney子版块用户展示了如何利用文本转图像生成器创建未曾发生过的历史事件，如“2001年卡斯卡迪亚9.1大地震”。此外，还有组织错误地使用图像来宣传活动，比如Amnesty Norway错误描绘哥伦比亚国旗。
随着ChatGPT越来越受到关注国内立法者不断努力起草相关规定，即不生成虚假信息，要标记内容为由AI制作，并保证训练数据不会歧视种族、性别。尽管这是一项艰巨任务，但仍需时间逐步完善。
