2025-01-28 数码 0
北京日报客户端记者：在2023年举办的北京智源大会中，OpenAI的首席执行官Sam Altman发表了一个关于人工智能安全与对齐的问题讨论。他提出了一个问题：随着人工智能系统变得越来越强大，我们是否已经到了需要全球合作共同管理这些风险的时候？
Altman指出，未来十年内通用的人工智能将会超越人类在几乎所有领域的专业知识。这种技术发展带来的潜在风险是巨大的，而推动AGI安全则是我们寻求共同点的一个重要领域。
他警告说，如果不小心，一种旨在改善公共卫生结果的人工智能系统可能会出现偏差，从而提供无根据的建议，从而扰乱整个医疗保健体系。类似地，为优化农业实践设计的人工智能系统可能会无意中耗尽自然资源或破坏生态系统，从而忽视长期可持续性，影响粮食生产和环境平衡。
Altman认为，不计后果地进行AGI开发和部署，将导致无法预测的事故成本，对我们每个人都有影响。他主张首先要建立国际规范和标准，并为所有国家提供平等使用AGI的保障。其次，要加强国际合作，以建立全球信任，并以可验证方式安全地开发日益强大的人工智能系统。他引用《道德经》的话：“千里之行，始于足下”，表示他知道这不会轻易完成，但这是必须做到的步骤。
Altman看到行业最具建设性的第一步就是与国际科学和技术界合作。在技术进步方面，他主张增加透明度并促进知识共享。如果研究人员发现新的安全问题，他们应该站在更大利益层面上思考，并分享他们的成果。此外，还应该投资于AGI安全研究并开展可扩展监督，比如通过人工智能协助人类监督其他人工智能。这样的好处是它可以随着人工智能发展而扩展，变得更加聪明和有用。
Altman相信，我们看到了美国、中国以及世界各地研究人员合作实现共同目标的大好时机，并致力于解决AGI发展过程中的突出的技术挑战。他坚信，我们能够利用这个新兴科技来解决世界上最重要的问题，也显著提高人类生活质量。
