2025-01-28 数码 0
北京日报客户端记者：在2023年举办的北京智源大会中，OpenAI的首席执行官Sam Altman发表了一个关于人工智能安全与对齐的话题。Altman指出，未来十年内通用人工智能将会在几乎所有领域超过人类的专业知识水平。因此，他强调说，全球各地的研究人员必须共同管理这一风险，并推动AGI（Artificial General Intelligence）的安全发展是我们寻求共识的一个重要领域。
Altman警告说，如果不加以管理，这种强大的AI系统可能会无意中扰乱公共卫生、农业实践等领域，从而造成不可预见和长期可持续性的问题。他认为，不负责任地开发和部署AGI，将导致严重后果，对我们每个人都有影响。
为了避免这些风险，Altman提出了两点建议：一是建立国际标准和规范；二是进行国际合作，以确保所有国家能够平等地利用AGI。同时，他还提到，我们应该增加透明度，加强技术进步，并促进知识共享。此外，我们也需要投资于AGI安全研究，以及通过监督来保证其稳定性。
Altman相信，只要大家能团结一心，就有可能解决世界上最关键的问题并显著提高生活质量。他还表示，我们已经看到了美国、中国以及其他国家之间在此方面合作的巨大潜力，并致力于克服科技挑战。在他的看法中，这是一个具有前景的人类历史时刻。
