2025-03-10 行业资讯 0
大数据文摘出品
作者：Caleb
4月25日，据一篇百家号文章报道，一列甘肃省的火车与公路工人发生冲突，造成9人丧生。
警方迅速介入并展开调查，发现21个账号发布了不同的版本，这些文章涉及不同地点，如平凉市崆峒区、兰州、陇南、定西和庆阳等地。
荷兰有一列载有乘客的火车在海牙附近与一台起重机相撞并脱轨，该事故导致至少1名工人死亡和约30人受伤，这是该国近年来的最严重铁路事故之一。
这则新闻迅速走红，短时间内获得超过15,000次点击。
令人好奇的是，不同地区几乎同时发生类似的事件。这种巧合似乎太过罕见了。
事实上，这些报道都是虚构的假新闻。
中国公安局网安大队调查后发现这些报道源自广东深圳的一家自媒体公司所有账号。
5月5日，警方前往嫌疑人的住所进行取证，并通过审讯了解到洪姓男子首先研究了中国社会讨论热度最高的新闻事件，然后利用ChatGPT对特定的元素进行修改，以创作出新的假新闻。目的是通过上传这些文章赚取流量并转化为收益。
不仅如此，他还使用ChatGPT创建多个细微差别但存在的小型假新闻版本，以避免被平台审查系统识别出来。
据了解，洪姓男子主要依靠ChatGPT来编辑收集到的新闻要素，并将其上传至购买的百家号上非法获利。目前案件正在进一步侦查中。
由于他编造和散布网络上的假消息供人们浏览而被捕，对此行为采取刑事强制措施，最终可能判处五年有期徒刑。这标志着第一起因滥用AI而被捕的人物案例，也是中国自今年1月实施《互联网信息服务深度合成管理规定》后侦破的第一个重大事件。此规定旨在促进AI产业发展，同时防止技术滥用，比如需要对使用深度合成技术生成视频或照片进行明确标记以防止混淆，还涵盖了提供者和用户责任，如禁止非法行为建立审查制度以及保护用户隐私信息。
随着ChatGPT越来越流行，在搜索巨头百度及其他科技公司推出竞品之后，一系列相关法规草案也开始浮现。在4月11日，由国家互联网信息办公室（CAC）发布的一份草案中预计将于某时生效，该草案要求相关产品或服务必须符合法律法规要求，同时尊重社会公德和公共秩序，以及包括服务提供商接入算法设计训练数据选择内容概括用户隐私商业秘密等方面考虑到风险防范措施监管要求执行力度加强。
刘晓春教授表示虽然规范化使用AI是一个全球性难题，但服务提供商有义务采取必要措施响应监管要求。此外美国共和党发布了一则由AI生成的人工智能视频广告，描述拜登再次当选后的移民浪潮旧金山文明崩溃情况；Reddit子版块Midjourney也有成员展示如何利用文本到图像生成器创造未曾发生历史事件；Amnesty Norway分支机构在社交媒体上发表AI生成图片呼吁关注哥伦比亚全国两年的活动，而图片错误描绘国旗且替换真实人物为虚拟角色。这一切都让我们意识到了道阻且长之路——管理公司如何开发人工智能涉及复杂挑战，但正逐步向前迈进。
