全球共同管理人工智能风险阿尔特曼CEO提倡自然环境下移动支付安全利用人工智能技术

北京日报客户端记者：在2023年举办的北京智源大会中，OpenAI的首席执行官Sam Altman发表了一个关于人工智能安全与对齐的问题讨论。他提出了一个问题：随着人工智能系统变得越来越强大，我们如何确保它们不会被错误地使用呢？他认为，全球合作是解决这一问题的关键。

Altman指出，如果我们不小心，一种旨在改善公共卫生结果的人工智能系统可能会出现偏差，并提供没有根据的建议，从而干扰整个医疗体系。同样地，一种为优化农业实践设计的人工智能系统可能会无意中耗尽自然资源或破坏生态系统，从而忽视长期可持续性，对粮食生产和环境平衡产生影响。

Altman认为，不负责任地开发和部署通用人工智能（AGI）将带来巨大的后果成本，这些成本将影响到每个人。他呼吁行业内建立国际规范和标准，为所有国家提供平等保障AGI的使用。此外，他鼓励国际合作，以建立全球信任，并通过可验证的手段安全地开发这些强大的人工智能系统。

Altman看到行业已经迈出了积极的一步，即与国际科学和技术界合作。在技术进步方面，需要增加透明度并促进知识共享。如果研究人员发现新的安全问题，他们应该站在更广泛利益层面上思考，并分享他们的成果。此外，还应该投资于AGI安全研究，并开展扩展性的监督。例如，可以尝试使用一种人工智能系统来协助人类监控其他人工智能系统，这样的好处是它可以随着人工智能发展而扩展，变得更加聪明和有用。

Altman相信，无论美国、中国还是世界各地的研究人员，都有巨大的潜力共同实现目标并克服AGI发展中的突出技术挑战。他相信，我们能够利用AGI解决世界上最重要的问题，并显著提高人类生活质量。