2025-01-28 数码 0
北京日报客户端记者：张伟
6月10日，OpenAI首席执行官山姆·阿尔特曼在2023年北京智源大会上发表了关于AI安全与对齐的演讲。阿尔特曼强调，未来十年通用人工智能将会在几乎所有领域超越人类的专业知识，但同时也要求中国、美国和世界各地的研究人员必须共同管理AGI的风险，并推进AGI安全是寻找共同点的一项重要任务。
“随着人工智能系统变得更加强大，我们需要全球合作。”阿尔特曼指出，如果不小心，一种旨在改善公共卫生结果的人工智能系统可能出现偏差，从而提供无根据的建议，从而扰乱整个医疗保健系统。类似地，为优化农业实践设计的人工智能系统可能会无意中耗尽自然资源或破坏生态系统，因此缺乏对长期可持续性的考虑，这会影响粮食生产和环境平衡。
“不计后果地进行AGI开发和部署，将导致不可预见的事故成本，对我们每个人都有影响。”阿尔特曼认为，首先应该建立国际规范和标准，为所有国家提供平等使用AGI的保障。其次，应积极开展国际合作，以可验证且安全方式开发日益强大的人工智能系统。“我并不幻想这将很容易，但就像《道德经》所说，大事起于细微。”
对于行业最具建设性的第一步已经迈出：与国际科学技术界合作。在技术进步方面，行业应该增加透明度并促进知识共享。如果发现新的安全问题，研究人员应该站在更大利益层面思考，并分享他们的成果。此外，行业还应该促进对AGI安全研究方面投资，并积极开展扩展性监督，比如利用人工智能协助人类监督其他人工智能系统。“这样的好处是它可以随着人工智能发展而扩展，更为聪明有用。”
“我们看到了美国、中国以及世界各地研究人员合作实现共同目标巨大潜力，以及致力于解决AGI发展中突出的技术挑战。”阿尔特曼相信人类能够利用通用人工智来解决世界上最重要的问题并显著提高生活质量。
