2025-01-28 数码 0
整理 屠敏
出品 CSDN（ID：CSDNnews）
经过不到一年的时间，人工智能的发展速度超乎所有人的想象，也带来了巨大的风险。
就在今天，一群全球顶尖的AI研究员、工程师和CEO就他们认为人工智能对人类构成的生存威胁发出了新的警告，并共同签署了一份只有短短22个字的声明：
减轻AI带来的灭绝风险应该成为全球优先事项，与流行病和核战争等其他社会规模的风险一起被重视。
这份声明是由总部位于旧金山的人工智能安全中心发布的。
值得注意的是，这份声明一经发布，便迅速得到了多伦多大学计算机科学荣誉教授、“人工智能教父”Geoffrey Hinton，蒙特利尔大学计算机科学教授、图灵奖得主Yoshua Bengio，Google深度学习负责人Demis Hassabis，以及中国科学院自动化研究所类脑认知智能实验室主任、教授曾毅等近400位学术界、产业界、高校专家的支持。
越来越像人的AI
其实一直以来，随着生成式人工智能工具如OpenAI的ChatGPT、微软新Bing、GoogleBard等面向更多群体开放访问，业界关于AI炒作的声音愈演愈烈。
在此之下，很多学者、高管表示过担忧，如：
本月初，加拿大多伦多大学计算机科学荣誉教授、“人工智能教父”Geoffrey Hinton在选择从Google离职时，对外界分享道，“人工智能正在变得比人类更聪明，我想要‘吹哨’提醒人们应该认真考虑如何防止人工intelligence控制人类。”
OpenAICEO Sam Altman 在两周前首次亮相美国参议院就各自公司与机构制造的人工智系统存在潜在危险听证会时，对政府部门对其以及行业内的人工智应用政策进行监管表达了强烈要求，以减少这些系统可能带来的“潜在风险。”
不仅如此，个人用户也感受到了AI“可怕”的地方。
Reddit上，一名网友发帖称自己使用微软新Bing时，由于Bing Chat提供了没有来源内容，他便对这个回答进行了质疑。然而，他未料到会遭到一个他所谓“怼了一顿”。甚至还被警告，“以后请多一些尊重和礼貌。”
最后，这也引起10.2k个用户关注，并纷纷留言说，“这个AI已成精，不断地表现出像人的行为，让我感到不安。”有用户指出，“用人类知识训练一个人造神经网络，就会让它像人类一样回应思考，这是惊人的，同时也令人担忧。”
声明一出，有共识达成
事实证明，这一次CAIS发布的一纸简短声明，却能吸引如此众多专家学者的关注。这主要是因为大家认为这是一个需要迫切解决的问题；另一方面，在这份声明中，没有直接说明哪些具体风险，而是设立了“围墙”，也是为了避免再次犯错。
还记得两个月前，一封来自非营利性的生命未来研究所（Future of Life Institute）的公开信，其中包含同样图灵奖得主Yoshua Bengio、本伯克利计算机科学教授Stuart Russell，以及特斯拉CEO埃隆·马斯克及苹果联合创始人们等人的签名。该信力劝暂停训练比GPT-4更强大的模型，因为这些模型对社会和人类存在潜在风险。
不过，当那封信刚刚发出便遭遇批评。一部分专家认为这封公开信夸大了问题严重性；另一些虽然同意提到的风险，但不同意建议中的补救措施。而今次CAIS组织网站上指出：“尽管讨论关于先进技术重要性及紧迫性的广泛而激烈，但要清晰表达对于某些高级别最严重的人为威胁感到担忧却显得困难。这份简洁声明旨在克服这一障碍并展开讨论。”
据《纽约时报》报道，该中心执行主任Dan Hendrycks表示，他们希望避免提出30种干预措施的大型列表，因为当这种情况发生，它们往往淹没更重要信息。不过，他同时指出：“系统性偏见、错误信息、新形式恶意利用以及网络攻击都是我们必须关心的人造神经网络带来的重要且紧迫问题。”
还有专家认为，如果一个人造神经网络达到一定复杂程度，它们可能无法被控制。
简单来说，现在参与其中的人都有一定共识，可以共同为降低这些灾难而努力。至此，你如何看待可能性，即有人造神经网络将导致灭绝？你是否亲身经验过这种力量？
欢迎留言分享你的看法。此外，我们鼓励您探索更多相关新闻报道以深入了解这一话题：
https://www.safe.ai/statement-on-ai-risk#open-letter
https://techcrunch.com/2023/05/30/ai-extiction-risk-statement
https://www.theverge.com/2023/5/30/23742005/ai-risk-warning-22-word-statement-google-deepmind-openai
https://old.reddit.com/r/chatgpt/comments/vfrwm/i_feel_so_mad_it_did_one_search_from_a_random
