阿尔特曼科技进步如同自然演化需全球共治人工智能风险

北京日报客户端记者：在2023年举办的北京智源大会上，OpenAI的首席执行官Sam Altman发表了一个关于人工智能安全与对齐的话题。Altman指出，未来十年中通用人工智能将会在几乎所有领域超过人类专业知识水平，但同时也需要全球合作来管理这些风险。推进AGI安全是我们寻找共同点的一个重要领域。

Altman强调说，“随着越来越强大的人工智能系统出现，我们之间的全球合作从未如此紧迫。”他提到，如果不小心，一项旨在改善公共卫生结果的人工智能系统可能会因为错误而给整个医疗保健系统带来混乱。而一项为优化农业实践设计的人工智能系统可能无意中耗尽自然资源或破坏生态，从而忽略长期可持续性，对粮食生产和环境平衡产生影响。

Altman认为，“不计后果地进行AGI开发和部署，将导致事故成本对我们每个人都有影响。”他建议首先要建立国际规范和标准，并确保所有国家能够平等使用AGI。他还主张开展国际合作，建立全球信任，以一种可验证的方式安全地开发日益强大的AI系统。“我并不幻想这将很容易，但就像《道德经》所说的千里之行始于足下。”

对于行业最具建设性的第一步——与国际科学和技术界合作— Altman表示，这是一个积极的开始。在技术进步方面，他建议增加透明度并促进知识共享。如果研究人员发现新的安全问题，他们应该站在更广泛利益层面思考，并分享他们的成果。此外，应加大对AGI安全研究投资，并进行有效监督，比如通过人工智能协助人类监督其他AI系统。这可以让这种监督随着AI发展而变得更加高效和有用。

Altman相信，美国、中国以及世界各地的研究人员有巨大的潜力在实现共同目标并解决AGI发展中的技术挑战上。他坚信人们可以利用通用人工智能来解决世界上最重要的问题，并显著提高人类生活质量。