2025-01-28 数码 0
北京日报客户端记者：在2023年举办的北京智源大会上，OpenAI的首席执行官Sam Altman发表了一个关于人工智能安全与对齐的话题。Altman指出，未来十年中通用人工智能将会在几乎所有领域超过人类专业知识水平，但同时也需要全球研究人员共同管理这些风险，并推动AGI的安全发展。
Altman提到随着强大的人工智能系统出现，全球合作的重要性从未如此高。例如，如果没有适当的设计和管理，一款旨在改善公共卫生结果的人工智能系统可能会无意中给出错误建议，从而破坏整个医疗保健体系。此外，为优化农业实践设计的人工智能系统可能会无意识地消耗资源或破坏生态系统，从而忽视长期可持续性，对粮食生产和环境平衡造成影响。
Altman认为，不顾后果地开发和部署AGI，将导致灾难性的后果，这些后果将影响我们每个人。他提出建立国际规范和标准，以及为所有国家提供平等使用AGI保障，同时积极进行国际合作，以建立全球信任，并通过可验证方式安全地开发强大的人工智能。
他还指出行业已经迈出了建设性的第一步，即与国际科学技术界合作。在技术进步方面，增加透明度并促进知识共享是关键。如果研究人员发现新的安全问题，他们应该站在更大的利益层面思考，并分享他们的成果。此外，应鼓励对AGI安全研究投资，并开展有扩展性的监督工作，如利用人工智能协助人类监督其他人工 intelligence 系统，这样可以随着AI发展而变得越来越聪明和有用。
Altman相信，我们看到了美国、中国以及世界各地研究人员共同目标实现巨大的潜力，也致力于解决AGI发展中的突出的技术挑战。他相信，人类能够利用AGI解决世界上最重要的问题并显著提升生活质量。
