省科技厅如何协助自然环境中共建人工智能风险管理体系

北京日报客户端记者：在2023年举办的北京智源大会中，OpenAI的首席执行官Sam Altman发表了一个关于人工智能安全与对齐的话题。Altman指出，未来十年内通用人工智能将会在几乎所有领域超过人类的专业知识，这也意味着全球研究人员需要共同管理这些风险，并推动AGI（Artificial General Intelligence）的安全发展。

Altman强调说，“随着越来越强大的人工智能系统出现，我们之间合作的重要性从未如此明显。”他提到，如果不小心，一项旨在改善公共卫生结果的人工智能系统可能会出错，从而给整个医疗保健体系带来混乱。而一项为优化农业实践设计的人工智能系统则有可能无意中耗尽自然资源或破坏生态系统，从而忽视长期可持续性的问题，影响粮食生产和环境平衡。

Altman认为，“不考虑后果地进行AGI开发和部署，将导致我们所有人的损失。”他建议行业应该建立国际规范和标准，为所有国家提供平等使用AGI的保障，并积极开展国际合作，以建立全球信任并以可验证方式安全地开发日益强大的人工智能。

Altman认为，最建设性的第一步已经迈出，那就是与国际科学和技术界合作。他建议增加透明度，加促进知识共享，鼓励研究人员站在更大利益层面上分享他们的发现，同时也要投资于AGI安全研究，并进行可扩展监督，比如利用人工智能协助人类监督其他人工智能。这样的好处是它可以随着人工智能发展而扩展变得更加高效和有用。

最后，Altman相信，我们看到了美国、中国以及世界各地研究人员合作实现共同目标的大型潜力，并致力于解决AGI发展中的突出技术挑战。他坚信，人类能够利用AGI来解决世界上最重要的问题并显著提升生活质量。