2025-01-28 数码 0
北京日报客户端记者：在2023年举办的北京智源大会上，OpenAI的首席执行官Sam Altman发表了一个关于人工智能安全与对齐的问题讨论。他提出了一个问题：随着人工智能系统变得越来越强大，我们如何确保它们不会被滥用？Altman认为，全球合作是解决这一问题的关键。
他指出，如果我们不小心，就可能会出现一些错误。例如，一台旨在改善公共卫生结果的人工智能系统可能会无意中提供错误的建议，从而干扰整个医疗保健系统。同样，一台设计为优化农业实践的人工智能系统可能会无意中耗尽自然资源或破坏生态系统，从而忽视长期可持续性，影响粮食生产和环境平衡。
Altman强调，不仅要建立国际标准，还要确保所有国家都能平等地使用这些技术。他还提到，我们需要进行国际合作，以建立全球信任，并以一种可验证的方式安全地开发更强大的人工智能系统。这将是一个挑战，但正如《道德经》所说，“千里之行，始于足下。”
他认为，最重要的是行业已经迈出了第一步——与科学界和技术界合作。在技术进步方面，我们应该增加透明度，并促进知识共享。如果研究人员发现新的安全问题，他们应该站在更大的利益层面思考，并分享他们的成果。此外，我们还应该投资AGI安全研究并开展监控工作。例如，可以使用一台人工智能来监督另一台，这样它可以随着时间推移变得更加聪明和有用。
Altman相信，由美国、中国以及世界各地的研究人员共同努力解决AGI发展中的技术挑战，将能够帮助我们利用这些新工具去解决世界上的重大问题，并显著提高人类生活质量。
