2025-01-28 数码 0
北京日报客户端记者：张伟
2023年6月10日，OpenAI首席执行官Sam Altman在北京智源大会上发表演讲。他强调，在未来十年中，通用人工智能（Artificial General Intelligence, AGI）将在几乎所有领域超越人类的专业知识。因此，中国、美国以及全球研究人员必须共同管理AGI的风险，并推进AGI安全，这是寻找共同点的最重要领域之一。
Altman指出，随着人工智能系统变得越来越强大，全世界合作的重要性从未如此明显。如果不小心，一款旨在改善公共卫生结果的人工智能系统可能会出现偏差，提供毫无根据的建议，从而扰乱整个医疗保健体系。同样，一款为优化农业实践设计的人工智能系统可能会无意中耗尽自然资源或破坏生态系统，从而忽视长期可持续性的问题，对粮食生产和环境平衡产生影响。
Altman警告说，不加考虑地进行AGI开发和部署，将导致不可预见的事故成本对我们每个人都有影响。他认为，我们应该建立国际规范和标准，为所有国家提供平等使用AGI的保障，并积极开展国际合作，以建立全球信任，用可验证的手段安全地开发日益强大的人工智能系统。“这不是容易的事情，但正如《道德经》所言，大事起于细节。”
Altman认为，最具建设性的第一步已经迈出，那就是与国际科学技术界合作。在技术进步方面，我们应该增加透明度并促进知识共享，如果发现新的安全问题，研究人员应该站在更高层面思考，并分享他们的成果。此外，我们还应该投资于对AGI安全研究，以及实施扩展型监督，比如利用人工智能协助人类监督其他人工智能系统。“这样做可以让它随着人工智能发展而增长，更聪明、更有用。”
Altman相信，由于美国、中国以及全球研究人员之间巨大的潜力，他们能够合作实现共同目标，并解决AGI发展中的突出技术挑战。通过利用AGI，我们能够解决世界上最重要的问题，并显著提高人类生活质量。
