2025-01-28 数码 0
北京日报客户端记者：在2023年举办的北京智源大会中，OpenAI的首席执行官Sam Altman发表了一个关于人工智能安全与对齐的问题讨论。他提出了一个问题：随着人工智能系统变得越来越强大，我们如何确保它们不会被滥用？Altman认为，全球合作是解决这一问题的关键。
他指出，如果我们不小心，就可能会出现一些错误。例如，一台旨在改善公共卫生结果的人工智能系统可能会提供毫无根据的建议，从而扰乱整个医疗保健系统。类似地，一台设计为优化农业实践的人工智能系统可能会无意中耗尽自然资源或破坏生态系统，从而影响粮食生产和环境平衡。
Altman认为，我们需要建立国际规范和标准，并为所有国家平等使用AGI提供保障。他还提倡积极开展国际合作，以可验证的方式安全开发日益强大的人工智能系统。这将是一个复杂但必要的过程，因为一旦我们开始，这将像《道德经》所说的那样，“千里之行，始于足下”。
行业已经迈出了建设性的第一步，即与国际科学和技术界合作。在技术进步方面，我们应该增加透明度并促进知识共享。如果研究人员发现新的安全问题，他们应该站在更大利益层面思考，分享他们的成果。此外，我们应该投资AGI安全研究，并进行可扩展监督的一个例子是使用人工智能协助人类监督其他人工 intelligence 系统。“这样的好处是它可以随着人工 intelligence 发展而扩展，变得越来越聪明和有用。”
Altman相信，在美国、中国以及世界各地研究人员之间存在巨大的潜力，他们致力于解决AGI发展中的突出的技术挑战。通过利用AGI，我们能够解决世界上最重要的问题，并显著提高人类生活质量。
