2025-01-28 数码 0
北京日报客户端记者：在2023年举办的北京智源大会中，OpenAI的首席执行官Sam Altman发表了一个关于人工智能安全与对齐的问题讨论。他提出了一个问题：随着人工智能系统变得越来越强大，它们将如何影响我们的世界？Altman认为，通用人工智能（AGI）在未来十年内将会超越人类在几乎所有领域的专业知识。因此，我们需要全球合作来管理这些风险。
Altman指出，如果我们不小心，一款旨在改善公共卫生结果的人工智能系统可能会出现偏差，并提供毫无根据的建议，从而扰乱整个医疗保健体系。此外，一款为优化农业实践而设计的人工智能系统可能会无意中耗尽自然资源或破坏生态系统，这些都是缺乏长期可持续性的考虑所导致的问题。
他还表示，不计后果地进行AGI开发和部署，将会造成不可预见的成本。因此，他建议应该建立国际规范和标准，以及为所有国家平等使用AGI提供保障。此外，还应该积极开展国际合作，以建立全球信任，并通过可验证的手段安全地开发强大的人工智能系统。
Altman认为，最具建设性的第一步是与国际科学和技术界合作。在技术进步方面，行业应该增加透明度并促进知识共享。如果研究人员发现新的安全问题，他们应该站在更大的利益层面上思考，并分享他们的成果。此外，行业也应该促进对AGI安全研究方面的投资，并开展扩展性监督，比如利用人工智能协助人类监督其他人工 intelligence 系统。这样的好处是它可以随着人工 intelligence 发展而扩展，变得更加聪明和有用。
最后，Altman相信，我们能够利用AGI解决世界上最重要的问题，从而显著改善人类生活质量。他看到了美国、中国以及世界各地研究人员共同目标实现巨大潜力的可能性，并致力于解决AGI发展中的技术挑战。
