2025-01-28 数码 0
北京日报客户端记者：在2023年举办的北京智源大会上，OpenAI的首席执行官Sam Altman发表了一个关于人工智能安全与对齐的话题。Altman指出，未来十年中通用人工智能将会在几乎所有领域超过人类专业知识水平，但同时也需要全球合作来管理这些风险，因为推进AGI安全是我们寻找共同点的一个重要领域。
Altman强调说，“随着越来越强大的人工智能系统出现，我们之间的全球合作从未如此紧迫。”他提到，如果不小心处理，那么旨在改善公共卫生结果的人工智能系统可能会出错，从而给整个医疗保健体系带来混乱。而为优化农业实践设计的人工智能系统则可能无意中耗尽自然资源或破坏生态系统，从而忽视长期可持续性的问题，影响粮食生产和环境平衡。
Altman警告说，“如果不考虑后果地进行AGI开发和部署，将导致事故成本对我们所有人产生影响。”他认为首先行业应该建立国际规范和标准，并为所有国家提供平等使用AGI的保障。其次，他主张积极开展国际合作，以可验证的方式安全地开发日益强大的人工智能系统。“我并不幻想这会很容易，但就像《道德经》所言，千里之行始于足下。”
对于行业最具建设性的第一步—与国际科学和技术界合作—Altman持有乐观态度。他认为行业应该增加透明度并促进知识共享。如果研究人员发现新的安全问题，他们应该站在更大利益层面思考，并分享他们的成果。此外，行业还应鼓励对AGI安全研究方面的投资，并积极开展监督工作。例如，可以尝试使用人工智能协助人类监督其他人工智能。这样的好处是它可以随着技术发展而扩展，为我们的生活质量带来显著提升。
“我们看到了美国、中国以及世界各地研究人员如何通过合作实现共同目标，以及它们致力于解决AGI发展中的技术挑战。” Altman相信，人类能够利用通用AI解决世界上最重要的问题，从而显著改善生活质量。
