2025-01-28 数码 0
北京日报客户端记者：在2023年举办的北京智源大会中，OpenAI的首席执行官Sam Altman发表了一个关于人工智能安全与对齐的问题讨论。他提出了一个问题：随着人工智能系统变得越来越强大，我们如何确保它们不会被滥用？Altman认为，全球合作是解决这一问题的关键。
他指出，如果我们不小心，就可能会出现一些错误。例如，一台旨在改善公共卫生结果的人工智能系统可能会提供毫无根据的建议，从而干扰整个医疗保健系统。同样，一台为优化农业实践而设计的人工智能系统可能会无意中耗尽自然资源或破坏生态系统，从而忽略长期可持续性，对粮食生产和环境平衡产生影响。
Altman还强调，不仅要建立国际规范和标准，还要确保所有国家都能平等地使用这些技术。他认为，应该通过国际合作来建立全球信任，并以可验证的方式安全地开发这些技术。他引用《道德经》中的话说：“千里之行，始于足下。”这意味着改变需要从最基本的地方开始。
Altman认为，最好的第一步已经迈出，那就是与科学界和技术界合作。在促进技术进步方面，他呼吁增加透明度并促进知识共享。如果研究人员发现新的安全问题，他们应该站在更大的利益层面上思考，并分享他们的成果。此外，还应该加大对AGI安全研究领域的投资，并开展有效监督。例如，可以使用人工智能协助人类监控其他人工智能。这有助于让这种监督随着人工智能发展而扩展，以更加高效和有用的方式。
Altman相信，我们看到美国、中国以及世界各地研究人员合作实现共同目标的大好前景，并致力于解决AGI发展过程中遇到的重要挑战。他坚信，我们可以利用AGI来解决世界上最迫切的问题，从而显著提高人类生活质量。
