2025-01-28 数码 0
北京日报客户端记者：在2023年举办的北京智源大会中，OpenAI的首席执行官Sam Altman发表了一个关于人工智能安全与对齐的话题。Altman指出，随着通用人工智能（AGI）的发展，它将在几乎所有领域超越人类专业知识，但同时也带来风险，因此全球研究人员需要共同管理这些风险。推动AGI的安全是寻找共同点的一个关键领域。
Altman警告说，如果不小心，强大的AI系统可能会出现错误，比如提供毫无根据的医疗建议，从而干扰整个医疗体系。而农业实践中的AI系统可能会无意中耗尽资源或破坏生态系统，这些都忽略了长期可持续性的问题，对粮食生产和环境平衡造成影响。
Altman认为，不顾后果地开发和部署AGI，将导致巨大的损失，他提议建立国际规范和标准，为所有国家平等使用AGI，并积极开展国际合作，以可验证方式安全地开发强大的人工智能。他引用《道德经》中的“千里之行，始于足下”，表示行业应该从现有的合作开始，并增加透明度、促进知识共享，以及分享新发现的问题。
他还提出了使用人工智能监督其他人工智能的想法，这样的方法可以随着技术发展而扩展，变得更加高效。Altman相信，通过美国、中国以及世界各地研究人员之间的合作，可以解决AGI发展过程中的技术挑战，并利用它来解决全球问题，同时显著提高生活质量。
