2025-01-28 数码 0
北京日报客户端记者：在2023年举办的智源大会AI安全与对齐论坛上，OpenAI首席执行官山姆·阿尔特曼（Sam Altman）发表了讲话。阿尔特曼指出，未来十年中，通用人工智能（Artificial General Intelligence, AGI）的发展将会在几乎所有领域超越人类的专业知识。这一过程中，中国、美国和全球范围内的研究人员必须共同管理AGI带来的风险，并推动AGI安全成为大家寻求共同点的最重要领域。
阿尔特曼强调，在强大的人工智能系统出现时，全世界合作的紧迫性变得前所未有。他提到，如果不加以控制，一种旨在改善公共卫生结果的人工智能系统可能会出现偏差，提供毫无根据的建议，从而扰乱整个医疗保健体系。同样地，为优化农业实践设计的人工智能系统可能无意间耗尽自然资源或破坏生态系统，这些都缺乏长期可持续性的考虑，最终影响粮食生产和环境平衡。
阿尔特曼认为，不负责任地进行AGI开发和部署，将导致不可预见的事故成本影响到我们每个人。他提出行业应该建立包容国际规范和标准，并为所有国家平等使用AGI提供保障。此外，还应积极开展国际合作，以可验证且安全的方式开发日益强大的人工智能系统。他引用《道德经》中的名言：“千里之行，始于足下”，表示虽然这将不是容易的事情，但这是一个开始。
对于行业目前采取的一步措施——与国际科学技术界合作——阿尔特曼持正面看法。在技术进步方面，他主张增加透明度并促进知识共享。如果研究人员发现新的安全问题，他们应该站在更大利益层面思考并分享他们的成果。此外，他提议应当鼓励对AGI安全研究领域进行投资，并实施扩展型监督机制，比如利用人工智能协助人类监督其他人工智能。这样的优势是随着人工智能发展而不断扩展和增值。
总结来说，我们已经看到来自美国、中国以及世界各地研究人员合作实现共同目标的大量潜力，并致力于解决AGI发展中的关键技术挑战。阿尔特曼相信，我们能够利用AGI来解决全球最重要的问题，同时显著提升人类生活质量。
