在东莞一名男子利用ChatGPT科技有限公司的高科技手段编造了一个关于火车撞人的假新闻这成为中国历史

AI假新闻制造案件：中国男子利用ChatGPT编造虚假火车事故，可能面临5年监禁

在东莞，一名男子被捕，他利用人工智能工具ChatGPT制作并发布了多个关于「火车撞人」事故的假新闻，这是中国首次有个人因滥用AI而受到法律制裁。该男子通过修改真实事件的细节来创作不同的版本，以吸引流量并获利。

警方调查发现，这些文章在短时间内获得了大量点击，涉及不同的事故地点，包括甘肃省、兰州、陇南等地。然而，当局最终确定这些报道都是虚构的，并且这不是唯一一篇这样的文章。

洪姓男子使用ChatGPT将社会热点新闻元素进行编辑和修改，再上传到百家号上以获取流量。他还创作了多个几乎相同但略有差异的版本，以避免被平台审查。此举违反了中国《互联网信息服务深度合成管理规定》，该规定旨在防止技术滥用和促进人工智能产业发展。

此案例显示出规范化使用AI是一个全球性难题，不仅限于中国。在美国，有社交媒体公司和政府官员也关注生成式AI传播错误信息的可能性。尽管人们越来越认识到了这一问题，但如何有效管理和监管仍然是一个挑战。