2025-01-28 手机 0
北京日报客户端 记者 李明
6月10日，在2023年智源大会期间，AI安全与对齐论坛上，智源研究院理事长张宏江与Open AI首席执行官山姆·阿尔特曼进行了深入交流。
在讨论通用人工智能（AGI）的快速发展和全球合作的必要性时，张宏江提出了一个问题：在推动AGI发展的同时，我们应该如何确保人工智能的安全？面对这一挑战，有哪些关键因素和问题需要我们关注？
阿尔特曼表示，对于人工智能安全，我们需要从技术角度着手，同时也要考虑到国际背景下的用户偏好。"我们可以通过构建能够监控模型行为并不断迭代的安全分类器和检测器来提高系统整体的安全性。"
然而，他强调，解决AI系统对齐问题并不仅仅是一个技术难题，还涉及到伦理和社会层面的考量。他赞扬中国在人工智能领域拥有的卓越人才，并指出解决这个难题所需的是来自世界各地最优秀头脑的共同努力."我真诚希望中国的人工智能研究人员能够做出重大贡献。"
人工智能系统对齐问题是当前行业内的一个热点话题，它涉及到如何设计一个强大的AGI系统，使其不仅能按照人类意愿行事，而且不会因为目标冲突而产生危险后果。因此，在训练这些模型时，必须确保它们符合人类意图，即通过指导、调教甚至调整输出，以解锁新能力，同时避免误用或故意滥用。
为了促进更紧密的国际合作，阿尔特曼透露，他们正在致力于建立一套针对开发高质量AI系统的人口普查标准，并建设包含全球价值观和偏好的数据库."人们可以利用这些数据库调整AI系统，也可以共享有关AI安全研究成果，这将有助于提升整个行业水平。"
