2025-01-28 智能 0
北京日报客户端 记者 李明
6月10日，在2023年智源大会上，张宏江与OpenAI首席执行官山姆·阿尔特曼进行了深入对话。张宏江提出了一个问题：面对通用人工智能的快速发展，我们如何确保其安全？这是全球合作的一个重要议题。
山姆·阿尔特曼认为，解决这个问题需要两方面的努力。第一是技术层面的研究。他指出，人工智能模型不仅要安全，而且整个系统也必须牢固。“我们可以开发在模型上运行的安全工具，以监控和改进它们。”
然而，阿尔特曼也强调，这并非单纯的技术挑战。他说：“我们需要理解不同国家用户的偏好，因为这将影响到我们的设计。”他还特别赞扬中国的人才，他希望他们能在解决“对齐”难题中发挥作用。
“对齐”问题是目前人工智能领域最紧迫的问题之一。这涉及到建立一个强大的AGI系统，使其能够按照人类意愿行事，而不会产生冲突或错误。因此，我们必须通过训练来确保模型符合人类目标，并避免误用。
为了促进国际合作，阿尔特曼提出了一个计划，即创建一套国际标准来开发安全的人工智能，以及构建反映全球价值观的一套数据库。“人们可以使用这些数据库调整AI，也可以共享关于AI安全的研究。”
