2025-01-28 手机 0
北京日报客户端 记者 李明
6月10日，在2023年智源大会期间，AI安全与对齐论坛上，智源研究院理事长张宏江与Open AI首席执行官山姆·阿尔特曼进行了深入交流。
在讨论通用人工智能（AGI）的快速发展和全球合作机制时，张宏江向阿尔特曼提出了一个问题：面对人工智能的迅速进步，有哪些关键因素和挑战是我们需要关注的？如何有效应对这些威胁？
山姆·阿尔特曼指出，确保AI安全不仅仅是技术层面的问题，更重要的是要考虑整个系统的安全性。“我们可以开发基于AI模型的安全工具，如分类器和检测器，以监控模型是否符合预定的使用策略，并不断更新。”他强调。
然而，阿尔特曼也认识到解决这一难题并不简单，它涉及跨越不同的文化背景和国家偏好。因此，他认为中国在人才方面有巨大的优势：“想要克服人工智能系统对齐的问题，我们需要世界各地最优秀的人才。我希望中国的人工智能专家能够做出重大贡献。”
对于目前行业内关注的人工智能系统对齐问题（alignment problems），阿尔特曼表示这是当前研究的重点。建立一个强大而又高效的人类意图一致性的AGI系统至关重要，因为如果它不能按人类意愿行动，或其目标与人类冲突，那么结果可能会非常危险。因此，对于AGI模型来说，对人类意图进行“对齐”是必须完成的一个任务，即通过人的指导、训练或输出来解锁新能力，同时避免误操作。
为了推动国际合作并构建更为稳健的人工智能生态系统，阿尔特曼还透露，他们正在努力建立国际标准以促进安全开发，以及构建反映全球价值观和偏好的数据库。“人们可以利用这些数据库调整他们的人工智能，也可以共享关于人工智能安全领域的研究成果。”
