全球共同管理人工智能风险创新是引领自然发展的第一动力阿尔特曼CEO呼吁合作应对挑战

北京日报客户端记者：在2023年举办的北京智源大会上，OpenAI的首席执行官Sam Altman发表了一个关于人工智能安全与对齐的问题讨论。他提出了一个问题：随着人工智能系统变得越来越强大，我们如何确保它们不会被滥用？Altman认为，全球合作是解决这一问题的关键。

他指出，如果我们不小心，就可能会出现一些错误。例如，一台旨在改善公共卫生结果的人工智能系统可能会无意中提供错误的建议，从而干扰整个医疗保健系统。同样，一台设计为优化农业实践的人工智能系统可能会无意中耗尽自然资源或破坏生态系统，从而忽视长期可持续性，影响粮食生产和环境平衡。

Altman认为，我们必须建立国际标准和规范，以确保所有国家都能平等地使用这些技术。他还提出了一个想法：我们应该通过国际合作来建立全球信任，并以可验证的方式开发更加强大的人工智能系统。这将需要行业内的一些改变，比如增加透明度和促进知识共享，以及鼓励研究人员分享他们发现的问题。

Altman相信，这是一个巨大的挑战，但也是一个巨大的机会。通过利用人工智能，我们可以解决世界上最重要的问题，并显著改善人类生活质量。