2025-01-28 手机 0
北京日报客户端记者：李明
6月10日，2023年北京智源大会上，AI安全与对齐论坛迎来了智源研究院理事长张宏江与OpenAI首席执行官山姆·阿尔特曼的深入对话。
在讨论通用人工智能（AGI）的发展和全球合作机制时，张宏江向阿尔特曼提出了一个问题：面对AGI的快速进步，我们应该如何确保人工智能的安全性？这涉及到哪些关键因素和挑战？
对于这一点，阿尔特曼指出，解决这个问题不仅需要技术层面的创新，还需要跨越文化和国家界限的理解。“我们必须认识到，不同国家的人们有着不同的价值观和偏好，这直接影响了他们如何使用人工智能。”
他强调说：“中国拥有世界顶尖的人工智能人才，而解决‘对齐’难题离不开这些人才的贡献。我希望中国在这方面能够做出巨大贡献。”
“对齐”问题是当前人工智能研究中的热点，它关注的是如何训练系统，使其按照人类设定的意图行动，同时避免潜在危险。如果未能正确地实现这一目标，就可能导致灾难性的后果。
为了促进国际合作并建立更为严密的人工智能安全标准，阿尔特曼表示正在推动建立一套全球共识的框架，并开发反映不同文化价值观的一系列数据库。“通过这些数据库，我们可以让人工智能更加灵活地适应不同地区的情况，从而降低误用风险。”
