2025-01-28 数码 0
北京日报客户端记者：在2023年举办的北京智源大会中，OpenAI的首席执行官Sam Altman发表了一个关于人工智能安全与对齐的话题。Altman指出，未来十年内通用人工智能将会在几乎所有领域超过人类的专业知识水平。因此，他强调了全球研究人员共同管理AGI风险和推进其安全性的重要性。
Altman提醒说，在技术不断发展的情况下，如果不小心，一项旨在改善公共卫生结果的人工智能系统可能会出现偏差，提供无根据的建议，从而扰乱整个医疗保健体系。同样地，对农业实践进行优化的人工智能系统可能会无意中耗尽自然资源或破坏生态系统，而忽视长期可持续性，这将影响粮食生产和环境平衡。
Altman认为，不计后果地开发和部署AGI，将带来巨大的成本危机，对我们每个人都有影响。他呼吁行业建立国际规范和标准，并为所有国家提供平等使用AGI的保障。此外，还应积极开展国际合作，建立全球信任，以确保通过可验证方式安全开发日益强大的人工智能系统。
他还指出，最具建设性的第一步是与国际科学和技术界合作。在技术进步方面，行业应该增加透明度并促进知识共享。如果发现新的安全问题，研究人员应该站在更大利益层面上思考，并分享他们的成果。此外，还应该鼓励对AGI安全研究投资，并实施扩展性的监督措施，如使用人工智能协助人类监控其他人工智能。
Altman相信，只要美国、中国以及世界各地的研究人员能够合作实现共同目标，就能解决AGI发展中的突出技术挑战。他坚信，我们可以利用AGI来解决世界上最重要的问题，从而显著提高人类生活质量。
