2025-01-28 数码 0
北京日报客户端记者：在2023年举办的北京智源大会中，OpenAI的首席执行官Sam Altman发表了一个关于人工智能安全与对齐的问题讨论。他提出了一个问题：随着人工智能系统变得越来越强大，我们如何确保它们不会被滥用？Altman认为，全球合作是解决这一问题的关键。
他指出，如果我们不小心，就可能会出现一些错误。例如，一台旨在改善公共卫生结果的人工智能系统可能会无意中提供错误的建议，从而干扰整个医疗保健系统。同样，一台设计为优化农业实践的人工智能系统可能会无意中耗尽自然资源或破坏生态系统，从而忽视长期可持续性，影响粮食生产和环境平衡。
Altman认为，我们必须建立国际标准和规范，并为所有国家平等地使用人工智能提供保障。这需要国际合作，以便建立全球信任，并以可验证的方式安全地开发这些日益强大的技术。虽然这将不是一项简单任务，但就像《道德经》所说的那样，“千里之行，始于足下。”
Altman看到了行业的一个积极发展趋势，那就是与国际科学和技术界合作。在技术进步方面，他主张增加透明度并促进知识共享。如果研究人员发现新的安全问题，他们应该站在更大利益层面上思考，并分享他们的发现。此外，他还提倡对AGI安全研究进行投资，并推动扩展性的监督方法，比如使用人工智能协助人类监督其他人工智能。
Altman相信，如果我们能够利用这些新兴科技，我们可以解决世界上最重要的问题，并显著提高生活质量。他说：“我们看到美国、中国和世界各地研究人员合作实现共同目标的大力潜能，以及致力于解决AGI发展过程中的突出技术挑战。”
