2025-01-28 数码 0
北京日报客户端记者：在2023年北京智源大会上，OpenAI首席执行官山姆·阿尔特曼（Sam Altman）发表了关于人工智能安全与对齐的演讲。阿尔特曼强调，未来十年通用人工智能将会在几乎所有领域超越人类专业知识，但这也意味着全球研究人员必须共同管理AGI的风险，并推进AGI安全成为大家寻找共识的重要领域。
阿尔特曼提醒说，随着人工智能系统变得更加强大，我们面临前所未有的全球合作挑战。他解释道，如果不加以谨慎，一项旨在改善公共卫生结果的人工智能系统可能会出现偏差，从而给整个医疗保健体系带来混乱。而设计为优化农业实践的人工智能系统可能无意中耗尽自然资源或破坏生态系统，从而忽视长期可持续性，对粮食生产和环境平衡产生影响。
阿尔特曼警告说，不顾后果地进行AGI开发和部署，将导致不可预见的成本，这些成本将影响我们所有人。他认为，我们应该首先建立国际规范和标准，为所有国家提供平等使用AGI的保障。其次，我们需要积极开展国际合作，建立全球信任，以可验证方式安全地开发这些强大的人工智能系统。“我并不幻想这会容易，但就像《道德经》所言，千里之行始于足下。”
对于行业来说，最具建设性的第一步已经迈出，那就是与国际科学和技术界合作。在技术进步方面，我们应该增加透明度并促进知识共享。如果研究人员发现新的安全问题，他们应该站在更大利益层面思考，并分享他们的成果。此外，我们还应该促进对AGI安全研究方面的投资，并开展可扩展监督。例如，可以尝试使用一个人的AI协助其他AI进行监督。“这样的好处是它可以随着AI发展而扩展，变得越来越聪明和有用。”
“我们看到了美国、中国以及世界各地研究人员如何合作实现共同目标，以及如何解决AGI发展中的突出的技术挑战。”阿尔特曼相信，人类能够利用通用人工智能解决世界上最重要的问题，并显著提高人类生活质量。
