2025-01-28 手机 0
北京日报客户端记者：我是科技之光
6月10日，OpenAI首席执行官山姆·阿尔特曼在2023北京智源大会上发表演讲。他表示，未来十年通用人工智能将超越人类专业知识，但必须共同管理风险。推进AGI安全是大家寻找共同点的最重要领域之一。
“随着强大的人工智能系统出现，全球合作赌注从未如此高。”阿尔特曼说，如果不小心，一旨在改善公共卫生结果的人工智能系统可能会提供毫无根据的建议，从而扰乱医疗保健系统。类似地，为优化农业实践设计的人工智能可能会耗尽自然资源或破坏生态系统。
“不计后果进行AGI开发和部署，将造成的事故成本影响所有人。”阿尔特曼认为，应建立国际规范和标准，为所有国家平等使用AGI，并积极开展国际合作，建立全球信任，以可验证方式安全开发强大的人工智能。“我不幻想这会很容易，但就像《道德经》所言，千里之行始于足下。”
阿尔特曼看来，最具建设性的第一步已经迈出：与国际科学技术界合作。在技术进步方面，要增加透明度和促进知识共享。如果发现新的安全问题，要站在更大利益层面思考分享成果。同时，要促进对AGI安全研究投资，并开展可扩展监督，如使用人工智能协助人类监督其他人工智能。
“我们看到了美国、中国和世界各地研究人员合作实现共同目标的巨大潜力，并致力于解决AGI发展中突出的技术挑战。”阿尔特曼相信，我们将利用AGI解决世界问题并显著改善生活质量。
