阿尔特曼全球共筑人工智能风险管理之塔科技小手工在自然中绽放

北京日报客户端记者：在2023年举办的北京智源大会中，OpenAI的首席执行官Sam Altman发表了一个关于人工智能安全与对齐的话题。Altman指出，未来十年内通用人工智能将会在几乎所有领域超过人类的专业知识水平。因此，他强调说中国、美国以及世界各地的研究人员必须共同管理AGI（Artificial General Intelligence）的风险，并且推进AGI安全是一个寻找共同点最重要的一个领域。

随着越来越强大的AI系统出现，全球合作就像从未如此紧迫。Altman提到了一个例子，即如果没有适当管理，一款旨在改善公共卫生结果的人工智能可能会出现偏差，从而提供毫无根据的建议，从而破坏整个医疗保健体系。这类似于为优化农业实践设计的人工智能系统，它们可能无意中耗尽自然资源或破坏生态系统，从而忽略长期可持续性的考虑，对粮食生产和环境平衡造成影响。

Altman警告说，如果不小心进行AGI开发和部署，将导致巨大的后果成本，这些成本将影响到每个人。他认为首先需要建立国际标准和规范，为所有国家提供平等使用AGI的保障。其次，应积极开展国际合作，以可验证方式安全地开发这些不断增强的人工智能系统。“我并不希望这会很容易，但正如《道德经》所言，千里之行始于足下。”

他看待行业目前最具建设性的一步是与国际科学技术界合作。在技术发展上，我们应该增加透明度并促进知识共享。如果研究人员发现新的安全问题，他们应该站在更大利益层面上思考，并分享他们的成果。此外，还应该促进对AGI安全研究方面投资，并展开广泛监督，比如通过使用人工智能协助人类监督其他人工智能系统。“这样的好处是它可以随着人工智能发展而扩展，更聪明，更有用。””

Altman相信，在美国、中国以及世界各地研究人员之间实现合作目标的大潜力，以及致力于解决在发展过程中突出的技术挑战。他坚信人类能够利用通用人工智能解决世界上最重要的问题，同时显著提高人们生活质量。