2025-01-28 数码 0
北京日报客户端记者：张伟
2023年6月10日，OpenAI首席执行官山姆·阿尔特曼在北京智源大会上发表了关于AI安全与对齐的演讲。阿尔特曼强调，未来十年通用人工智能将会在几乎所有领域超越人类专业知识，但这同时也要求中国、美国和世界各地的研究人员共同管理这些风险，并推进AGI安全。
“随着人工智能系统变得越来越强大，这一全球合作的重要性从未如此明显。”阿尔特曼指出，如果不小心，一款旨在改善公共卫生结果的人工智能可能会出现错误，提供无根据的建议，从而影响整个医疗保健系统。同样，对农业实践进行优化的人工智能可能无意中耗尽资源或破坏生态系统，而缺乏对长期可持续性的考虑，将影响粮食生产和环境平衡。
“不计后果地进行AGI开发和部署，将导致我们所有人的损失。”阿尔特曼认为，我们需要建立国际规范和标准，为所有国家提供平等使用AGI的保障。此外，我们应该积极开展国际合作，以建立全球信任并通过可验证方式安全开发这些强大的人工智能系统。“我并不幻想这会容易，但是正如《道德经》所言，千里之行始于足下。”
对于行业来说，最具建设性的第一步已经迈出，那就是与国际科学技术界合作。在技术进步方面，我们应该增加透明度并促进知识共享。如果研究人员发现新的安全问题，他们应当站在更大的利益层面思考，并分享他们的成果。此外，我们还应该促进对AGI安全研究方面的投资，并努力实施可扩展监督机制，比如利用人工智能协助人类监督其他人工智能系统。“这样的好处是它可以随着人工智能发展而扩展，变得越来越聪明有用。”
“我看到了美国、中国以及世界各地研究人员合作实现共同目标巨大的潜力，并致力于解决AGI发展中的突出技术挑战。” 阿尔特曼相信，人类将能够利用通用人工智能来解决世界上最重要的问题，并显著提高生活质量。
