科技股万人联署呼吁暂停ChatGPT AI自我迭代担忧其潜在危机

科技股：全球监管风暴下，ChatGPT面临暂停与首例AI诽谤诉讼威胁

在意大利、德国、法国和爱尔兰等国家相继采取行动后，ChatGPT正遭遇全球范围内的监管压力。据悉，此前由马斯克发起的暂停训练比GPT-4更强大的AI系统公开信已获得超1.8万人签名。

为了理解意大利监管机构采取措施的原因以及AI是否可能拥有意识，《每日经济新闻》记者连线了爱尔兰数据保护委员会以及中国人民大学高瓴人工智能学院教授卢志武。

除了欧洲国家之外，加拿大也宣布对OpenAI进行调查，而美国方面则正在探讨加强对AI的监管。此外，由于生成虚假内容，ChatGPT可能将在澳大利亚面临全球首例诽谣诉讼。

尽管OpenAI面临着越来越多的压力，但该公司仍在积极行动中。当地时间4月5日晚，OpenAI CEO萨姆·阿尔特曼表示将于次日向意大利数据保护局提交相关措施。同时，OpenAI也在官网发布了一篇题为《我们保障AI安全的方法》的文章，以介绍其为保障安全性所做六个方面部署。

然而，在隐私和数据安全之外，ChatGPT生成错误事实的问题也开始引起关注。在一个案例中，一位澳大利亚市长因ChatGPT生成关于他曾因贿赂入狱服刑的事实而提出可能会提起诽谗诉讼，这将是针对生成式AI的第一起诽谗诉讼。

对于意大利暂时封禁ChatGPT的情况，以及是否应该禁止新技术，如同汽车带来的潜在风险一样，不可一概而论。卢志武教授认为，这些问题可以通过法律手段解决，比如规定使用者必须对所有内容进行标注，并且如果检测到未标注的生成内容，可以采取惩罚措施。这不仅有助于减少事实错误，还能防止假新闻泛滥。

尽管存在这些挑战，但卢志武认为，从工程角度出发，可以通过搜索互联网档案来提高准确性，从而减少事实错误。自我迭代是一个潜在的问题，因为它使得人类无法控制或预测模型如何发展。如果一个系统不断变得更加强大但人类却不知道这发生了什么，那么这就是最可怕的事情——尤其当这种技术与机器人结合时，当它们能够执行动作并独立决定自己的行为时，就会变得更加危险。