2025-03-10 行业资讯 0
自媒体公司员工利用ChatGPT编造假新闻案件引关注
4月25日，一则百家号发布的报道声称，甘肃省发生了一起火车撞人事故，导致9人死亡。随后，这个故事在网络上迅速蔓延，但警方调查发现，这些报道实际上是由广东深圳一名男子使用AI工具ChatGPT创作的虚假信息。
这名嫌疑人被认为是通过搜集社会热点新闻并对其进行修改，以创建多种不同的版本。他还利用ChatGPT制作了不同细节的小改动，以避开平台审查。在中国首次采取刑事强制措施的案例中，该男子可能面临最高五年的监禁。
此事件凸显了中国近年来科技成就与法律打击之间紧密联系的问题。今年1月，中国颁布了《互联网信息服务深度合成管理规定》，旨在防止技术滥用，并确保公众能够识别深度合成内容。此外，国家互联网信息办公室（CAC）正在推出法规草案以规范生成式AI服务。
全球范围内，对于如何规范化使用AI都存在挑战。美国共和党曾发布一个通过AI生成的人工视频广告，而Reddit用户也展示了文本到图像生成器可以创造未曾发生过历史事件的情景。这促使立法者和非营利组织开始讨论如何不生成虚假信息、标记使用AI制作的内容以及确保训练数据不歧视性别、种族等群体。
相关报道：
https://www.vice.com/en/article/y3wvjm/china-arrests-man-for-allegedly-using-chatgpt-to-create-fake-news
https://www.cnbc.com/2023/05/09/chinese-police-arrest-man-who-allegedly-used-chatgpt-to-spread-fake-news.html
