科技界专家普遍认为万人签名呼吁暂停ChatGPT AI自我迭代的做法是对当前AI技术发展趋势的一种警

"全球监管风暴：ChatGPT面临数据隐私和安全风险"

随着ChatGPT的爆红，全球监管机构相继介入。意大利、德国、法国、爱尔兰等8国已经采取行动，包括暂时封禁或考虑禁用ChatGPT。此外，加拿大隐私监管机构对OpenAI进行了调查，而美国方面正在探讨加强对AI的监管。

马斯克等1000余名科技大佬发起了一份公开信，呼吁暂停训练比GPT-4更强大的AI系统至少6个月。这份公开信的签名人数已超18000人。

中国人民大学高瓴人工智能学院教授卢志武认为，这种做法不明智。他指出，新技术总会有好坏两面，不应该因为存在问题就禁掉。卢志武建议通过法律手段约束AI模型，让研发者在训练时规避风险，并且要求使用者标注生成内容，以防止假新闻。

对于自我迭代带来的威胁，卢志武表示这是最可怕的事情。如果一个东西在不停地变强而人类却不知道，那将是难以想象的后果。而实际上，有科学家正在研究将生成式AI与机器人结合，以实现自然语言交互。

对于是否会出现意识的问题，卢志武表示，从目前来看，没有证据表明当前的大型语言模型如GPT-4会产生意识。但如果要达到通用人工智能（AGI）的目标，即使没有意识，也可能失去控制，因为这些模型学会了自我迭代和创造性学习。