2025-01-28 智能 0
在陕西的某个清晨，6月10日，是一个特别的日子。在北京举办的2023智源人工智能大会上，OpenAI创始人Sam Altman以视频连线的方式现身了，这是他首次向中国观众发表演讲。Altman站在《道德经》的智慧面前，谈论大国合作与AI安全，他说：“AI安全始于足下，每一位国家都必须参与到这一过程中来。”
Altman接受了智源研究院理事长张宏江的一对一问答。这位专家曾在微软亚洲研究院担任创始人、副院长，并曾任金山集团执行董事及首席执行官。张宏江博士目前还担任多家公司独立董事和顾问。
Altman在演讲中提到了当下的挑战与机遇。他强调，由于技术进步速度加快，全球合作比以往任何时候都更加重要。他认为推动AGI（通用人工智能）安全是国际社会共同努力所需找到共性的最重要领域之一。
随后，在问答环节中，张宏江提出了关于GPT-4和AI安全的问题。Altman回答称，对齐仍然是一个未解决的问题，而GPT-4花费八个月时间完成对齐工作，但相关研究还在不断升级，以扩展性和可解释性为主要方向。
对于将来的人工智能系统发展趋势，以及是否会很快看到GPT-5模型的问题，Altman表示，我们虽然没有答案，但正在探索许多可能的新范式。我们可能会尝试做出更强大的模型，但并不是立刻就会发生的事情。
至于如何确保模型数量不被滥用而导致风险增加的问题，Altman提出，从根本上说，我们需要有一个系统，让任何一个强大的模型都能经过充分的安全测试，有资源也有责任去确保其创造出的东西是安全且符合人类价值观。
最后，在结束这场线上交流时，张宏江感谢Sam Altman抽出宝贵时间，与大家分享他的见解，并希望未来有机会再次深入讨论。此刻，一束来自世界另一端的心跳灯已经点亮了希望之光，为那些追求科技进步与创新的人们提供了一盏照明着未来道路的小灯。
