2025-01-28 数码 0
北京日报客户端记者：在2023年举办的北京智源大会上，OpenAI首席执行官山姆·阿尔特曼发表了关于人工智能安全与对齐的话题。阿尔特曼强调，随着通用人工智能（AGI）的发展，它将在各个领域超越人类专业知识，但同时也带来巨大的风险。因此，全球研究人员必须共同努力管理这些风险，并推动AGI的安全发展。
“随着人工智能系统变得越来越强大，我们需要进行全球合作，这比以往任何时候都更为紧迫。” 阿尔特曼指出，如果不恰当地设计和部署这些系统，就有可能造成严重后果，比如一个旨在改善公共卫生结果的人工智能系统可能会出现偏差，从而给医疗保健体系带来混乱。此外，为农业实践优化而设计的人工智能系统如果没有考虑长期可持续性，也可能无意中破坏环境平衡。
阿尔特曼认为，不应忽视AGI开发和部署潜在的负面影响，而应该建立国际规范和标准，以确保所有国家都能平等地使用AGI。他提倡积极开展国际合作，以建立全球信任，并通过可验证的方式安全地开发日益强大的人工智能系统。“这并不是一条容易走的路，但正如《道德经》所言，一千里之行，始于足下。”
阿尔特曼看到了行业迈出的重要一步，即与国际科学技术界合作。在技术进步方面，他建议增加透明度并促进知识共享。如果研究人员发现新的安全问题，他们应该站在更广泛利益层面思考，并分享他们的成果。此外，还应该加大对AGI安全研究的投资，并开展有效监督措施，如利用人工智能协助人类监督其他人工智能。
“我们看到美国、中国以及世界各地研究人员如何合作实现共同目标，以及他们致力于解决AGI发展中突出的技术挑战。” 阿尔特曼相信，人类能够利用AGI解决世界上最重要的问题，从而显著提高生活质量。
