2025-01-28 手机 0
北京日报客户端记者：在2023年举办的北京智源大会中，OpenAI首席执行官山姆·阿尔特曼（Sam Altman）发表了关于人工智能安全与对齐的演讲。他的观点是，在未来十年内，通用人工智能（AGI）将在各个领域超越人类专业知识水平，这意味着全球研究人员需要共同努力来管理这些风险，并推动AGI的安全性发展成为一个大家寻求共识的关键领域。
阿尔特曼指出，与日益强大的人工智能系统相关联的是前所未有的全球合作挑战。他提出了一个担忧，那就是如果不加以控制，旨在改善公共卫生结果的人工智能系统可能会出现偏差，从而给整个医疗保健体系带来混乱。而为优化农业实践设计的人工智能系统则有可能无意中耗尽自然资源或破坏生态平衡，从而忽视长期可持续性的问题，对粮食生产和环境平衡产生影响。
阿尔特曼认为，如果没有谨慎地进行AGI开发和部署，将导致不可预见的后果成本，而这一成本将对所有人产生影响。他主张行业应建立国际规范和标准，以确保所有国家能够平等地使用AGI。此外，他鼓励开展国际合作，以建立全球信任，并通过可验证的手段安全地开发强大的人工智能系统。他引用《道德经》中的名言：“千里之行，始于足下”，表示虽然这条路不会轻易走完，但我们必须迈出第一步。
对于技术进步方面，阿尔特曼认为增加透明度和促进知识共享是必要的一步。研究人员应当站在更大利益层面思考，同时分享他们发现的问题。如果可以的话，他们还应该利用人工智能系统来监督其他人工智能。这一方法具有潜力随着技术发展而扩展，使其变得更加聪明和有用。
总体来说，阿尔特曼相信美国、中国以及世界各地研究人员能够合作解决AGI发展中遇到的技术挑战，并利用它来解决世界上最重要的问题，从而显著提升人类生活质量。
