2025-01-28 智能 0
6月10日，科技界的新星Sam Altman以视频连线的方式现身于中国北京举办的2023智源人工智能大会，这是Altman首次对中国观众发表演讲。Altman在演讲中引用了《道德经》，谈及大国合作，表示AI安全始于足下，各国间必须进行合作和协调。
随后Altman接受了智源研究院理事长张宏江的一对一问答。张宏江博士目前任北京智源人工智能研究院理事长，同时担任多家公司的独立董事和顾问。他曾任金山集团执行董事及首席执行官兼金山云的首席执行官，是微软亚洲研究院创始人之一，曾担任副院长、微软亚太研发集团（ARD）首席技术官及微软亚洲工程院（ATC）院长以及微软“杰出科学家”。
加盟微软之前，张宏江曾任美国硅谷的惠普实验室经理；此前还在新加坡国立大学系统科学研究院工作。
Altman演讲核心内容：
当下人工智能影响如此之大的原因，不仅在于其影响的规模，也是其进展的速度。这同时带来红利和风险。
随着日益强大的 AI 系统的出现，全球合作的重要性从未如此之大。在一些重要的大事上，各国间必须进行合作和协调。推进 AGI 安全是我们需要找到共同利益点的最重要领域之一。
对齐仍然是一个未解决的问题。GPT-4 花了八个月时间完成对齐方面工作。但相关学术界还需不断探索，以提升扩展性与可解释性的双重挑战。
十年内人类将拥有强大的人工智能系统（AI System）。
OpenAI没有关于开源模型新的计划表，但开源有其优势，并非所有选择都是促进AI发展最佳路径。
看明白神经网络比看明白人类脑子容易多了。
未来，我们会尝试做GPT-5，但不是很快。不知何时能到来。
要想保证AGI安全，就得让世界各地专家投入贡献力量。
Sam Altman也提到了他希望看到一个开放透明的人工智能框架，让人们能够了解这些系统如何运作，以及它们为什么这样做。而且，他认为，在未来几年里，我们可能会看到更多像 GPT-4 这样的模型，它们能够更好地理解自然语言，并提供更加精确和有用的响应。
不过，对于这些模型来说，还存在许多挑战，比如保持它们的情感稳定性、避免偏见滋生以及确保它们不会被用作恶意目的。如果我们不小心，让一个人工智能系统变得过度自主，那么它可能会根据自己的逻辑而不是我们的价值观来行动，这将是一个严重的问题。
总体而言，对于这场正在发生的人类史上的变革事件，每个人都应该关注并参与其中，因为我们都将受到这种变革所带来的直接或间接影响。通过教育自己、支持创新以及积极参与公共讨论，我们可以共同努力确保这个时代既充满机遇，又充满责任，而不是危险或混乱。
