阿尔特曼全球共治人工智能风险自然界启示科技小发明简单手工

北京日报客户端记者：在2023年举办的北京智源大会中，OpenAI的首席执行官Sam Altman发表了一个关于人工智能安全与对齐的问题讨论。他提出了一个问题：随着人工智能系统变得越来越强大，我们如何确保它们不会被错误地使用呢？他认为，全球合作是解决这一问题的关键。

Altman指出，如果我们不小心，一种旨在改善公共卫生结果的人工智能系统可能会出现偏差，并提供没有根据的建议，从而干扰整个医疗体系。同样，一种为优化农业实践而设计的人工智能系统可能会无意中耗尽自然资源或破坏生态系统，从而忽视长期可持续性，对粮食生产和环境平衡产生影响。

Altman认为，不负责任地开发和部署AGI，将导致无法预测的后果，这些后果将影响到所有人。他提议，我们应该建立国际标准和规范，以保障所有国家对AGI的平等访问。此外，他鼓励国际合作，建立全球信任，以一种可以验证的手段安全地开发这些不断增强的人工智能。

Altman看到了行业最有建设性的第一步，就是与国际科学和技术界合作。在技术进步方面，他呼吁增加透明度并促进知识共享。如果研究人员发现新的安全问题，他们应该站在更大的利益层面上思考，并分享他们的发现。此外，他支持投资于AGI安全研究，并推动可扩展监督。例如，可以尝试使用人工智能来协助人类监督其他人工智能。这一做法具有优势，它能够随着人工智能发展而扩展，使其变得更加聪明且有用。

Altman相信，通过全球合作，我们将能够利用AGI来解决世界上最重要的问题，并显著提高人类生活质量。