2025-01-28 数码 0
北京日报客户端记者：在2023年举办的北京智源大会中，OpenAI首席执行官山姆·阿尔特曼发表了关于人工智能安全与对齐的话题。阿尔特曼强调，随着通用人工智能（AGI）的发展，它将在各个领域超越人类专业知识，但同时也带来风险。因此，中国、美国以及全球研究人员必须合作管理这些风险，并推动AGI的安全发展。
阿尔特曼提醒说，如果不加以控制，一些旨在改善公共卫生的人工智能系统可能会出现偏差，提供无根据的建议，从而影响整个医疗保健体系。而那些为优化农业实践设计的人工智能系统若没有考虑可持续性可能会破坏生态系统和自然资源，从而影响粮食生产和环境平衡。
他认为，不负责任地开发和部署AGI，将导致不可预见的后果，这将是我们所有人的代价。他呼吁行业建立国际规范和标准，为所有国家提供平等保障，并通过国际合作建立全球信任，以确保安全地开发强大的人工智能。
阿尔特曼认为，最关键的是行业已经迈出了建设性的第一步，那就是与科学技术界合作。在技术进步方面，他建议增加透明度并促进知识共享。如果研究人员发现新的安全问题，他们应该站在更广泛利益上思考并分享他们的发现。此外，还应鼓励对AGI安全研究投资，并开展可扩展监督，比如使用一部分人工智能来协助监督其他人工智能。
最终，阿尔特曼相信人类能够利用AGI解决世界上的重要问题并显著提高生活质量。他看到美国、中国以及全球范围内的研究人员合作实现共同目标的大潜力，并致力于解决AGI发展过程中的技术挑战。
