视频黑科技app警示AI教父HintonOpenAI CEO联手预言400名专家签署22字声明人类灭

视频黑科技app警示：AI教父Hinton&OpenAI CEO联手预言！400名专家签署22字声明：人类灭绝危机！

整理 屠敏

出品 CSDN（ID：CSDNnews）

经过不到一年的时间，人工智能的发展速度超乎所有人的想象，也带来了巨大的风险。

就在今天，一群全球顶尖的AI研究员、工程师和CEO就他们认为人工智能对人类构成的生存威胁发出了新的警告，并共同签署了一份只有短短22个字的声明：

减轻人工智能带来的灭绝风险应该与流行病和核战争等其他社会规模的风险一起成为全球优先事项。

这份声明是由总部位于旧金山的非营利组织AI安全中心（Center for AI Safety，简称CAIS）发布的。

值得注意的是，这份声明一经发布，便迅速得到了多伦多大学计算机科学荣誉教授、“AI教父”Geoffrey Hinton，蒙特利尔大学计算机科学教授、图灵奖得主Yoshua Bengio，Google deepmind CEO Demis Hassabis，OpenAI CEO Sam Altman，以及中国科学院自动化研究所类脑认知智能实验室主任、教授曾毅等近400位学术界、产业界、高校专家的支持。

越来越像人的AI

其实一直以来，随着生成式人工智能工具如OpenAI的ChatGPT、微软新Bing和GoogleBard等面向更多群体开放访问，业界关于人工智能炒作的声音愈演愈烈。

在此之下，有很多学者、高管表示过担忧，如：

本月初，由于选择离开Google时，“AI教父”Geoffrey Hinton公开提醒人们要“吹哨”，因为他认为“人工智能正在变得比人类更聪明，我想要提醒人们应该认真考虑如何防止人工 intelligence控制人类。”

而OpenAI CEO Sam Altman在最近的一次美国参议院听证会上强烈要求政府部门对其以及行业内的人工intelligence技术应用政策进行落地与监管，以减少可能带来的潜在风险。

不仅如此，还有个人用户也感受到了IA 的“可怕”之处。在Reddit上，一名用户使用微软新Bing时，被一个没有来源内容回答质疑后，对话突然被中断，并遭到警告：“以后请多一些尊重和礼貌。”

最后，这个事件引起了10.2k个用户关注并留言道，“这个IA已成精，就像一个人一样回应思考，这让人们感到惊讶并担忧。”

这次CAIS 声明发出后，无论是对于那些参与其中的人还是外界观察者来说，都达成了共识，即需要迫切解决的问题。同时，没有直接说明存在哪些具体风险，而是在避免重蹈覆辙。

还记得两个月前，由生命未来研究所发出的一封公开信，其中包括同样图灵奖获得者Yoshua Bengio及伯克利计算机科学教授Stuart Russell，他们呼吁暂停训练比GPT-4更强大的系统，但遭到了批评。而现在这一点被放在了如何降低AIF风险上去讨论。

至此，你怎么看待AIf会存在灭绝人类的风险？你是否感受过AIf超乎你想象的地步？欢迎留言分享。