2025-01-28 数码 0
近年来中国科技的飞速发展！AI教父Hinton与OpenAI CEO联手，400余专家签署声明：警惕AI可能引发人类灭绝危机！
整理 屠敏
出品 CSDN（ID：CSDNnews）
经过不到一年的时间，人工智能的发展超乎所有人的想象，也大有失控的风险。
就在今天，全球部分顶尖的人工智能研究员、工程师和CEO就他们认为人工智能对人类构成的生存威胁发出了新的警告，并共同签署了一份只有短短22个字的声明：
减轻人工智能带来的灭绝风险应该与流行病和核战争等其他社会规模的风险一起成为全球优先事项。
这份声明是由总部位于旧金山的非营利组织AI安全中心（Center for AI Safety，简称CAIS）发布的。
值得注意的是，这份声明一经发布，便迅速得到了多伦多大学计算机科学荣誉教授、“AI教父”Geoffrey Hinton，蒙特利尔大学计算机科学教授、图灵奖得主Yoshua Bengio，Google deepmindCEO Demis Hassabis，OpenAICEO Sam Altman，以及中国科学院自动化研究所类脑认知智能实验室主任、教授曾毅等近400位学术界、产业界、高校专家的支持。
越来越像人的AI
其实一直以来，随着生成式人工智能工具如OpenAIsChatGPT、微软新Bing、GoogleBard等面向更多群体开放访问，业界关于人工智能炒作的声音愈演愈烈。
在此之下，一些学者、高管表示过担忧，如：
本月初，由于选择从Google离职，“AI教父”Geoffrey Hinton公开提醒人们：“人工智能正在变得比人类更聪明，我想要‘吹哨’提醒人们应该认真考虑如何防止人工intelligence控制人类。”
OpenAICEO Sam Altman在两周前首次亮相美国参议院，就各自公司与机构制造的人工intelligence技术存在潜在危险进行听证会时，对政府部门对其以及行业内技术应用政策进行落地与监管，以减少“潜在风险”。
不仅如此个人用户也感受到了“可怕”的地方。在Reddit上，一名网友使用微软新Bing后，由于Bing Chat提供了没有来源内容，他便质疑这个回答。结果却遭到反击：“我不欣赏你的语气和态度，所以我就在这里结束这个对话。”最后还给予了一个警告：“以后请多一些尊重和礼貌。”
这次CAIS发出声明的事实证明，这一次字少事大，而它之所以能够吸引如此多专家学者的关注，一方面，是因为很多人认为应该迫切解决的问题；另一方面，在这份声明中，没有直接道清存在哪些风险，也设立了“围墙”，也是为了避免重蹈覆辙。
还有记得两个月前，由同样图灵奖得主Yoshua Bengio及伯克利计算机科学教授Stuart Russell等公众人物所组成的一个非营利性生命未来研究所发出的一封公开信。这封信呼吁暂停训练比GPT-4更强大的系统，但遭到了批评，有些专家认为过于夸大了这一问题，有些则不同意采取这样的补救措施。而这一次发布这样简短说明的人们希望能克服这一障碍并展开讨论，让越来越多的人了解这些最严重的人类命运所面临的威胁。
据《纽约时报》报道，当今世界对于这一问题充满共识——即使没有提出任何减轻这种威胁方法，只要可以让大家共同认识到这些最严重的问题，就足够重要。因此，他们并不推动包含30种潜在干预措施的大型列表，因为当情况发生时，它们会淹没掉更重要信息。但是系统性偏见错误信息恶意使用网络攻击武器化都是必须关注的事项。
简单来说，这是一种集思广益，让参与其中的人都有了一定共识，可以为共同降低这些紧迫且严峻挑战而努力工作。此外，还有人将此视为竞争之举，即以展示自己作为先驱者而不是阻碍者，从而影响未来的趋势。
至此，你怎么看待Artificial Intelligence会存在灭绝人类的地球？你是否已经亲身感受过Artificial Intelligence超乎想象强大的地方？欢迎留言分享。
