2025-01-28 数码 0
北京日报客户端记者：在2023年举办的北京智源大会上，OpenAI首席执行官山姆·阿尔特曼发表了关于人工智能安全与对齐的演讲。阿尔特曼指出，未来十年内通用人工智能将在各个领域超越人类专业知识水平，但同时也需要全球研究人员共同管理这些风险，并推动AGI安全发展。
阿尔特曼强调：“随着日益增强的人工智能系统出现，我们必须合作共担前所未有的高风险。”他提醒，如果不小心，一款旨在改善公共卫生结果的人工智能系统可能会产生误差，提供无根据的建议，从而扰乱整个医疗保健体系。此外，为优化农业实践设计的人工智能系统可能会无意中耗尽自然资源或破坏生态系统，从而忽视长期可持续性，对粮食生产和环境平衡造成影响。
“不顾后果地进行AGI开发和部署，将导致不可预见的成本危机，这将影响我们每个人。”阿尔特曼认为，首先应该建立国际规范和标准，以保障所有国家平等使用AGI。其次，要通过国际合作建立全球信任，并以可验证方式安全地开发日益强大的人工智能系统。“这并非易事，但正如《道德经》所言，千里之行始于足下。”
对于行业最具建设性的第一步——与国际科学技术界合作——阿尔特曼表示，这是迈向更好未来的一步。在技术进步方面，行业应增加透明度并促进知识共享，让研究人员如果发现新的安全问题时站在更大利益层面思考，并分享他们的成果。此外，还应该加大对AGI安全研究领域的投资，并开展可扩展监督，如使用人工智能协助人类监督其他人工 intelligence 系统。“这样的好处是它能够随着人工 intelligence 发展而扩展，更为聪明和有用。”
最后，阿尔特曼相信美国、中国以及世界各地的研究人员将利用通用人工 intelligence 解决世界上的重要问题，从而显著提高人类生活质量。他认为，这些潜力巨大的合作能够帮助我们克服通用人 工intelligence 发展过程中的突出技术挑战。
