2025-01-28 手机 0
北京日报客户端 记者 李明
6月10日，在2023年智源大会期间，张宏江与OpenAI首席执行官山姆·阿尔特曼进行了深入对话。在讨论通用人工智能（AGI）的发展和全球合作时，张宏江询问了面对AGI挑战的关键因素和问题。对于这些问题，阿尔特曼提出了他的看法。
首先，阿尔特曼认为，对于人工智能安全来说，最重要的是技术研究。他指出，“我们需要确保整个系统的安全性，而不仅仅是模型本身。”为了实现这一点，他提议可以开发能够监控模型是否符合使用策略的安全分类器和检测器，并不断更新这些工具。
然而，阿尔特曼也强调，这个问题不是纯粹技术的问题。“要让人工智能既安全又有益，我们必须在不同的背景下理解不同国家用户的偏好。”他特别赞扬中国在人工智能领域的人才：“中国拥有一些世界上最优秀的人工智能人才。我相信，只有来自世界各地最好的头脑才能帮助我们解决这个困难。”
“对齐”问题是当前人工intelligence研究中的一大热点。它涉及到建立一个非常强大的AGI系统，同时确保其行为符合人类意愿。如果没有正确对齐目标，这样的系统可能会导致灾难性的后果。因此，在训练这样的模型时，就必须将人类意图与机器学习相结合，以避免误用或故意破坏。
为了加强国际合作，阿尔特曼透露，他们正在努力推动制定关于如何安全开发人工智能系统的国际标准。此外，他们还计划构建一套数据库，它们反映了全球价值观和偏好。这些建议旨在使人们能够通过调整他们的人工智能系统来更好地适应自己的需求，并且可以共享他们在这方面取得的进展。
