中国科普网万人签名呼吁暂停ChatGPT AI自我迭代探究其潜在风险与威胁

ChatGPT因数据隐私和安全问题，在全球掀起监管风暴。意大利、德国、法国、爱尔兰等8国相继采取行动，而马斯克等科技大佬也发起公开信，呼吁暂停训练比GPT-4更强大的AI系统。

OpenAI面临的压力日益增加，加拿大隐私监管机构对其展开调查，而美国方面正在讨论加强对AI的监管。尽管OpenAI表示将采取措施以应对意大利数据保护局的要求，但该公司还需面对生成虚假内容的问题，包括澳大利亚市长因ChatGPT生成虚假信息而可能提起诽谤诉讼。

中国人民大学高瓴人工智能学院教授卢志武认为，对于新技术的法律监管有滞后性，并且可以通过技术手段解决事实错误问题。他警告说，如果没有适当的监管，未来的人类社会可能会面临由快速发展的人工智能带来的重大威胁。

卢志武指出，即使是像汽车这样的成熟技术，也会存在事故，但是这并不意味着应该禁用汽车。同样，对于人工智能来说，可以通过法律和工程手段来规避潜在风险，如确保使用者标注所有生成内容，以及采用搜索引擎检索真实档案来减少错误。

虽然目前尚未有证据表明ChatGPT或其他大型语言模型具有自我意识，但如果它们能够学会自我迭代并创造出新的东西，这种能力可能导致无法预测的情况。这是一个人类社会需要紧密关注的问题，因为最终目标是开发能够模仿人类行为的通用人工智能（AGI）。

随着研究人员不断推动边界，比如引入反思技术，使得模型能够评估自己的表现，这些进步都为未来的可能性增添了疑问。如果这些模型被用于控制机器人的话，那么他们所能达到的目的就完全超出了人类掌控范围。此外，还有科学家正在研究如何利用生成式AI操控机器，以实现自然语言与机器交互，这进一步扩展了这一领域令人担忧的一系列可能性。