2025-01-28 数码 0
北京日报客户端记者：在2023年举办的北京智源大会AI安全与对齐论坛上，OpenAI首席执行官山姆·阿尔特曼发表了关于未来人工智能发展的重要演讲。阿尔特曼强调，随着通用人工智能（AGI）的不断进步，它将在几乎所有领域超越人类专业知识，但同时也带来风险。因此，全球研究人员必须合作管理这些风险，并推动AGI的安全发展。
阿尔特曼指出，如果不加以控制，一个旨在改善公共卫生结果的人工智能系统可能会出现偏差，从而导致医疗保健系统混乱。此外，为优化农业实践而设计的人工智能系统可能会无意中耗尽自然资源或破坏生态系统，从而影响粮食生产和环境平衡。
他认为，不负责任地进行AGI开发和部署，将导致巨大的事故成本，对我们所有人都有潜在影响。因此，我们需要建立国际规范和标准，为所有国家提供相等的保障，并积极开展国际合作，以建立全球信任并通过可验证方式安全地开发强大的人工智能。
阿尔特曼认为，行业已经迈出了建设性的第一步，即与国际科学技术界合作。在技术进步方面，我们应该增加透明度、促进知识共享，以及如果发现新问题，就站在更大利益层面思考并分享成果。此外，我们还应该投资于AGI安全研究，并开展扩展性监督，比如使用人工智能协助人类监督其他人工智能。这将使得这样的监督能够随着人工智能发展而变得更加高效和有用。
最后，阿尔特曼相信，无论美国、中国还是世界各地的研究人员，都有巨大的潜力来共同目标并解决AGI发展中的技术挑战。他坚信，我们可以利用AGI来解决世界上最重要的问题，从而显著提高人类生活质量。
