2025-01-28 数码 0
北京日报客户端记者：在2023年举办的北京智源大会上，OpenAI的首席执行官Sam Altman发表了一个关于人工智能安全与对齐的话题。Altman指出，未来十年中通用人工智能将会在几乎所有领域超过人类的专业知识，但同时也带来了巨大的风险。他认为全球合作是解决这些问题的关键。
Altman提到了随着人工智能系统变得越来越强大，如果不小心，这些系统可能会出现错误，比如为改善公共卫生结果而设计的人工智能可能会提供毫无根据的建议，从而扰乱整个医疗保健系统。类似地，为优化农业实践而设计的人工智能可能会无意中耗尽自然资源或破坏生态系统，从而缺乏对长期可持续性的考虑，影响粮食生产和环境平衡。
Altman警告说，不加以管理和部署AGI，将导致无法预测的事故成本，对我们每个人都有影响。他提出应该建立国际规范和标准，以及为所有国家平等使用AGI提供保障，并积极开展国际合作，以可验证的方式安全地开发日益强大的人工智能系统。
他认为行业已经迈出了建设性的第一步，就是与国际科学和技术界合作。在技术进步方面，需要增加透明度并促进知识共享。如果研究人员发现新的安全问题，他们应该站在更大利益层面思考，并分享他们的成果。此外，还应该促进对AGI安全研究方面的投资，并进行可扩展监督，比如使用人工智能协助人类监督其他人工智能。
Altman相信，只要美国、中国以及世界各地的研究人员能够合作，就有能力利用AGI解决世界上最重要的问题，并显著改善人类生活质量。
