反复强调科技部人才与科学普及司的智慧之光在阿尔特曼看来是解决Open AI面临的对齐难题不可或缺的关

北京日报客户端 记者 李明

6月10日，在2023年智源大会期间，AI安全与对齐论坛上，张宏江与Open AI首席执行官山姆·阿尔特曼进行了深入交流。张宏江询问在通用人工智能迅速发展的背景下，如何确保AI安全，以及应对潜在挑战。

阿尔特曼提出了两点关键因素：一是技术研究，需要确保模型和系统都具备足够的安全性；二是在不同文化背景中理解不同国家用户的偏好。他强调中国拥有顶尖的人工智能人才，对解决人工智能“对齐”问题至关重要。

“对齐问题”是当前行业研究的焦点，它涉及到创建一个强大且按人类意愿运行的人工智能系统。如果没有恰当地训练和指导，这样的系统可能会导致灾难性的后果。因此，对于建立如AGI这样的系统来说，对模型进行训练以符合人类意图至关重要。

为了促进国际合作推动这一目标，阿尔特曼表示正在设立国际标准，并建设包含全球价值观和偏好的数据库。这有助于通过这些数据库调整AI系统，并共同分享关于AI安全方面的研究成果。