自然界中的论文探索全球共享管理人工智能风险的智慧

北京日报客户端记者：在2023年举办的北京智源大会AI安全与对齐论坛上，OpenAI首席执行官山姆·阿尔特曼发表了关于通用人工智能未来十年的展望。他指出，随着技术的发展，通用人工智能将在各个领域超越人类专家，但同时也带来了风险。因此，他强调全球合作是推进AGI安全的关键。

阿尔特曼警告说，如果不加以管理，强大的AI系统可能会无意中造成负面影响，比如提供错误的医疗建议或破坏自然环境。为了避免这些潜在的问题，他提出了建立国际规范和标准，以及进行国际合作来开发可信赖的人工智能系统。

他认为，这需要行业内增加透明度和知识共享，并鼓励研究人员分享他们发现的问题和解决方案。此外，还需要投资于AGI安全研究，并使用人工智能来监督其他人工智能，以确保其健康发展。

阿尔特曼相信，如果我们能够有效地管理这一挑战，我们就能利用AGI来解决世界上的大问题并改善人们生活质量。