2025-01-28 手机 0
北京日报客户端记者：在2023年举办的北京智源大会中，OpenAI的首席执行官Sam Altman发表了一个关于人工智能安全与对齐的问题讨论。他提出了一个关键观点，即未来十年内，通用人工智能将会在几乎所有领域超过人类专业知识水平。因此，中国、美国以及世界各地的研究人员必须共同管理这些风险，并推动AGI（Artificial General Intelligence）的安全发展。
Altman强调，随着强大的人工智能系统的出现，全世界合作的重要性也越来越高。如果不小心，就可能导致错误的情况，比如为改善公共卫生结果而设计的人工智能系统可能会无意中提供毫无根据的建议，从而破坏整个医疗保健体系。类似地，为优化农业实践而设计的人工智能系统可能会无意识地耗尽自然资源或破坏生态系统，这样做缺乏长期可持续性的考虑，对粮食生产和环境平衡造成影响。
Altman认为，不加以控制地开发和部署AGI，将带来巨大的成本危机，这个危机将影响到我们每一个人。他提议首先要建立国际规范和标准，让所有国家都能平等使用AGI；其次，要积极进行国际合作，以确立全球信任，并通过可验证的手段安全开发日益强大的AI系统。“我并不幻想这会很容易，但就像《道德经》所说的那样，只有从脚步开始。”他说。
Altman看到了行业最具建设性的第一步，就是与国际科学和技术界合作。在技术进步方面，他主张增加透明度并促进知识共享。当研究人员发现新的安全问题时，他们应该站在更广泛利益层面上思考，并分享他们的成果。此外，他还鼓励对AGI安全研究进行投资，并开展可扩展监督工作。例如，可以尝试使用人工智能协助人类监督其他人工智能。这一方式可以随着AI发展而扩展，使之更加聪明且有用。
最后，Altman相信，我们能够利用通用人工智能解决世界上最重要的问题，同时显著提高人类生活质量。
