2025-01-28 数码 0
北京日报客户端记者：在2023年举办的北京智源大会中，OpenAI的首席执行官Sam Altman发表了一个关于人工智能安全与对齐的话题。Altman指出，未来十年内通用人工智能将会在几乎所有领域超过人类的专业知识水平。因此，他强调说中国、美国以及世界各地的研究人员必须共同管理AGI（Artificial General Intelligence）的风险，并且推进AGI安全是一个寻找共同点最重要的一个领域。
Altman提醒说，由于全球合作程度之高，这个时代对于人工智能系统出现错误可能带来的后果是前所未有的。他以医疗保健和农业实践为例说明，如果不加以谨慎考虑，旨在改善公共卫生或优化农业实践的人工智能系统可能无意中造成误差，比如提供毫无根据的建议，从而扰乱整个医疗保健体系或破坏生态系统。
Altman认为，如果没有国际规范和标准，以及平等使用AGI给予保障，那么开发和部署AGI时可能会忽略潜在的事故成本，这些成本将影响到每一个人。他主张应该积极进行国际合作，建立全球信任，以可验证方式安全地开发这些日益强大的人工智能系统。
他认为行业已经迈出了建设性的第一步，就是与国际科学技术界合作。在技术发展方面，增加透明度和促进知识共享是关键。此外，当发现新的安全问题时，研究人员应该站在更大利益层面思考，并分享他们的成果。此外，还需要投资于AGI安全研究并开展可扩展监督，如利用一部分人工智能来协助人类监督其他的人工 intelligence 系统。这样的好处是它可以随着人工intelligence 的发展而扩展，对于人们来说越来越有用。
总结来说，我们看到了美国、中国及世界各地区研究人员为了实现共同目标而合作解决突出的技术挑战。Altman相信人类能够利用通用人工intelligence 来解决我们面临的问题，并显著提高生活质量。
