前沿科技2023自然环境下全球合作管理人工智能风险的挑战与机遇

北京日报客户端记者：在2023年举办的北京智源大会中，OpenAI的首席执行官Sam Altman发表了一个关于人工智能安全与对齐的问题讨论。他提出了一个关键观点，即未来十年内，通用人工智能将会在几乎所有领域超过人类专业知识水平。然而，这一进步也带来了巨大的风险，因此全球研究人员必须共同管理这些风险，并推动AGI（Artificial General Intelligence）的安全性。

Altman强调，在技术不断发展时，没有任何国家或组织可以单独应对这一挑战。他指出，如果不加以控制，一些旨在改善公共健康结果的人工智能系统可能会出现偏差，从而给医疗保健系统造成混乱。同样，设计来优化农业实践的人工智能系统可能无意中破坏环境平衡和自然资源，从而影响粮食生产。

Altman认为，不仅要建立国际规范和标准，还要确保所有国家都能平等地使用AGI。他强调了国际合作的重要性，以及需要通过可验证的方式安全地开发更强大的AI系统。尽管他承认这不会轻易实现，但他引用《道德经》的名言：“千里之行，始于足下”，表示行业已经迈出了建设性的第一步——与国际科学界合作。

Altman建议增加透明度，加大知识共享，并鼓励研究人员基于更广泛利益来分享他们的发现。此外，他提议投资于AGI安全研究，并采用能够随着AI技术发展而扩展的人类监督机制，如使用AI协助监控其他AI系统。这有助于提高效率并保持其价值随时间增长。

总结来说，Altman相信美国、中国以及世界各国研究人员能够团结起来克服AGI发展中的技术难题，同时利用它解决全球最迫切的问题，从而显著提升人类生活质量。