2025-03-10 行业资讯 0
大数据文摘出品
作者：Caleb
4月25日，据一篇百家号文章报道，一列甘肃省的火车与公路工人发生冲突，造成9人丧生。
警方迅速介入并调查发现，在平台上，有21个账号发布了不同版本的新闻，涉及崆峒区、兰州、陇南、定西和庆阳等多地的事故。
此外，一起荷兰火车撞击事故也引发关注，该事件导致至少一人死亡和30人受伤，是该国近年来最严重的铁路事故之一。
这些报道在短时间内获得超过15,000次点击，但事实证明它们都是假新闻。
中国公安局网安大队查明，这些报道发布者的账号都归属于广东深圳一家自媒体公司所有。
5月5日，警方前往嫌疑人的住所进行取证，并在审讯后发现洪姓男子利用ChatGPT编辑社会热点新闻元素，然后上传至百家号赚取流量并变现。
洪姓男子还使用ChatGPT创建多个细微不同的假新闻版本，以避开审查。目前案件正在进一步侦办中。
由于他的行为涉嫌寻衅滋事罪，他可能面临最高五年有期徒刑的处罚。这是中国首例因滥用AI而被捕的人员，也是实施《互联网信息服务深度合成管理规定》后的第一起案件。
这项规定旨在促进AI产业发展，同时防止技术滥用，要求生成深度合成视频和照片必须标明其为合成内容，以防混淆。此外，还包括了对deepfake提供者和用户责任的规定，如禁止非法使用以及建立审查制度。
随着ChatGPT流行于世，其竞品如百度也相继推出。国家互联网信息办公室（CAC）已发布管理生成式AI服务法规草案，将于今年某时生效。该法规支持AI创新应用，但相关产品须符合法律法规要求，不违反社会公德和公共秩序。
全球范围内规范化使用AI是一个共同挑战。在美国，一则由共和党制作的人工智能视频广告误将拜登再次当选情况下引发美国与墨西哥边境的大规模移民浪潮，并预测旧金山文明崩溃，即便标记为“人工智能生成”，但仍然容易让人们将其视作真实事件。
Reddit上的Midjourney子版块也有用户举例说明了文本到图像生成器如何创造未曾发生过历史事件，比如2001年的卡斯卡迪亚9.1地震和海啸。而Amnesty Norway分支机构发布了错误描绘哥伦比亚国旗的人工智能图像以提醒大家关注国家问题。但这些图像错误地采用假象代替真实人物。
随着ChatGPT越来越受到关注与使用国内立法者正努力制定相关管理规定。拟议的法规包括不生成虚假信息、标记AI内容以及确保训练数据无歧视性等条款。不过，这仍需时间慢慢打磨成为实际可行之策。
