2025-01-28 数码 0
北京日报客户端记者：在2023年举办的北京智源大会中，OpenAI的首席执行官Sam Altman发表了一个关于人工智能安全与对齐的问题讨论。他提出了一个问题：随着人工智能系统变得越来越强大，我们如何确保它们不会被滥用？Altman认为，全球合作是解决这一问题的关键。
他指出，如果我们不小心，就可能会出现一些错误。例如，一台旨在改善公共卫生结果的人工智能系统可能会无意中提供错误的建议，从而干扰整个医疗保健系统。同样，一台设计用于优化农业实践的人工智能系统可能会无意中耗尽自然资源或破坏生态系统，从而忽视长期可持续性，影响粮食生产和环境平衡。
Altman强调，不加以控制地开发和部署人工智能，将导致不可预测的后果，这些后果将影响到每个人。他提出，我们需要建立国际标准和规范，以及为所有国家提供平等使用AGI的保障。此外，我们还需要开展国际合作，以建立全球信任，并通过可验证的手段安全地开发这些不断增强的人工智能。
Altman认为，最重要的是行业必须增加透明度，并促进知识共享。如果研究人员发现新的安全问题，他们应该站在更大的利益层面上思考，并分享他们的成果。此外，我们还应该投资于AGI安全研究，并进行可扩展监督。这包括尝试使用人工智能系统来协助人类监督其他人工智能系统，这样做可以随着技术发展而不断进步并变得更加有用。
总之，Altman相信人类能够利用AGI解决世界上最重要的问题，并显著提高生活质量。但这需要我们的共同努力和创造力。
