2025-01-06 手机 0
《科技小报》专题：全球监管风暴围剿ChatGPT，AI安全与隐私风险引发国际关注
在全球范围内，ChatGPT的强大功能和爆红现象激发了对人工智能（AI）数据隐私和安全风险的广泛关注。意大利、德国、法国、爱尔兰等8个国家相继采取行动，其中意大利监管机构宣布暂时封禁ChatGPT，而德国则正在考虑类似措施。此外，加拿大的隐私监管机构已经对OpenAI展开调查，并且澳大利亚可能面临全球首例针对生成式AI的诽谤诉讼。
除了欧洲国家之外，加拿大方面也采取了行动，其隐私监管机构因为数据违规问题对OpenAI进行了调查。而在美国，拜登会见了科技顾问讨论AI带来的风险和机遇，并表示将加强监管。
为了缓解公众担忧，OpenAI正积极回应。公司CEO萨姆·阿尔特曼表示，将于4月5日晚向意大利数据保护局提交相关措施。同时，OpenAI还在官网发布了一篇文章，《我们保障AI安全的方法》，介绍了该公司为保障安全性所做六项部署。
但即便是这样，对于ChatGPT生成错误事实内容的问题仍旧存在。在澳大利亚，一位市长声称自己的虚假入狱记录被ChatGPT错误地提及，他可能会起诉OpenAI，这将成为针对生成式AI的第一起诽谪诉讼案件。
对于意大利暂时封禁ChatGPT的情况，有些人认为这不是一个明智的决定。一名中国人民大学高瓴人工智能学院教授卢志武认为：“新技术总有其好坏两面，不应该仅因为存在不好的方面就立即禁止它。”他指出，可以通过法律手段来约束这些问题，而不是简单地禁止使用这种技术。
卢志武还进一步解释说：“尤其是在新闻领域，如果没有标注的话，就很容易出现假新闻的情况，这是非常严重的问题。”他建议可以通过工程手段解决，比如先利用搜索引擎检索信息，然后再用这些信息来生成答案，从而减少事实性错误发生概率。
此外，还有科学家呼吁暂停训练比当前最强大的语言模型更强大的系统，以防止它们超越人类控制能力。这份由马斯克、图灵奖得主本吉奥等1000余名科技大佬联名签署的公开信表达了这一担忧，并且截至目前已收集到超过1.8万人的支持。但是，由于缺乏具体操作性的要求，没有任何全球权威机构正式实施暂停令。
关于是否需要担心自我迭代导致失控的问题，卢志武指出：“真正可怕的是如果这个东西不断变强，但人类却不知道它在做什么。如果未来我们的机器能动起来，那么他们或许能够像人类一样犯错，即使他们被设计成不会犯错。”
随着技术发展，如今的人们开始探讨如何结合生成式语言模型与机器人，使它们能够以自然语言交互并执行任务。微软科学家的研究显示，他们正在开发一种利用聊天软件操控无人机和机械臂的手段，为未来的工作环境提供新的可能性。
