科技公司CEO阿尔特曼呼吁全球合作管理人工智能风险在自然环境中

北京日报客户端记者：在2023年举办的北京智源大会中，OpenAI的首席执行官Sam Altman发表了一个关于人工智能安全与对齐的问题讨论。他提出了一个问题：随着人工智能系统变得越来越强大，我们如何确保它们不会被用于不道德或有害的目的？

Altman认为，未来十年内通用的人工智能将会在几乎所有领域超越人类的专业知识。因此，我们必须采取行动，以防止这些技术被滥用。我们需要全球合作来管理这类风险，并推动一种新的、更为可持续的人工智能发展。

他指出，如果我们不小心，这些技术可能会造成严重后果，比如出现错误的医疗建议，从而破坏整个医疗系统。此外，它们可能会无意中耗尽自然资源或者破坏生态系统，从而影响粮食生产和环境平衡。

为了避免这样的情况发生，Altman呼吁业界建立国际标准和规范，以及提供平等保障给所有国家使用这种技术。他还鼓励国际合作，以建立全球信任，并通过可验证方式安全地开发这些新兴技术。

他表示：“我不是说这很容易，但就像《道德经》所说的那样，一千里之行始于足下。”行业已经迈出了积极的一步，即与国际科学和技术界合作以促进透明度和知识共享。

Altman认为，我们应该继续投资于AGI安全研究，并进行可扩展监督。这意味着可以利用人工智能帮助监控其他人工智能系统。这是一种不断发展并变得更加聪明和有用的方法。

总之，Altman相信人类能够利用AGI解决世界上最重要的问题，并显著改善生活质量。然而，这需要我们的共同努力以及对这个话题持久关注。