2025-01-28 数码 0
北京日报客户端记者：在2023年举办的北京智源大会AI安全与对齐论坛上，OpenAI首席执行官山姆·阿尔特曼发表了关于未来人工智能发展和风险管理的重要演讲。阿尔特曼强调，在接下来的十年里，通用人工智能将在各个领域超越人类专业知识水平，但这同时也意味着全球研究人员必须共同努力，以确保这一技术的安全性。
“随着人工智能系统变得越来越强大，”阿尔特曼指出，“全球合作的重要性从未如此明显。”他提到，如果不加以适当管理，一个原本旨在改善公共卫生结果的人工智能系统可能会出现偏差，从而给医疗保健体系带来混乱。而为农业实践设计的人工智能系统同样可能无意中破坏生态平衡或耗尽自然资源，这些都没有考虑长期可持续性的问题。
阿尔特曼认为，对于AGI开发和部署，我们需要谨慎行事，因为一旦发生事故，它们所造成的问题将影响我们所有人的利益。他建议首先要建立国际标准，并为所有国家提供平等使用AGI的保障。其次，要加强国际合作，建立基于可验证方式的全球信任机制，以确保安全地开发这些日益增长力量的人工智能。
业界已经迈出了建设性的第一步，那就是与国际科学和技术界合作。在技术进步方面，我们应该增加透明度，并促进知识共享。如果研究人员发现新的安全问题，他们应当站在更广泛利益层面上思考，并分享他们的成果。此外，还应该鼓励投资AGI安全研究，并推动有扩展性的监督措施，比如利用人工智能协助人类监督其他人工 intelligence 系统。这一做法可以随着科技发展而不断完善，使之更加高效和有用。
总结来说，尽管挑战巨大，但阿尔特曼相信通过全球合作，我们能够克服这些挑战并利用AGI解决世界上的最迫切问题，从而显著提升人类生活质量。
