2025-01-28 智能 0
中国科技新篇章：OpenAI CEO首次演讲（视频+全文）
在2023年智源人工智能大会上，OpenAI创始人Sam Altman以视频连线的方式向中国观众发表了他的首次演讲。这场直播是Altman自加入OpenAI以来对外界的最新公开活动之一。Altman引用了《道德经》，强调大国合作对于确保人工智能（AI）安全至关重要。他还接受了智源研究院理事长张宏江的一对一问答。
张宏江博士目前担任北京智源人工智能研究院理事长，同时也是多家公司的独立董事和顾问。他曾在微软亚洲研究院担任创始人、副院长以及微软亚太研发集团首席技术官，并且曾在金山集团担任执行董事及首席执行官兼金山云首席执行官。
Altman在演讲中提到，当前的人工智能影响力之所以巨大，不仅因为其规模，还因为其速度带来的红利和风险。他强调，随着日益强大的AI系统出现，全球合作的重要性从未如此之大。在一些关键领域，如推进通用人工智能（AGI）的安全，我们需要找到共同利益点。
关于GPT-4与AI安全的问题，上述报告指出，对齐仍然是一个未解决的问题。GPT-4花费八个月时间完成对齐方面的工作，但相关研究还在升级，主要分为扩展性和可解释性两方面。Altman表示，他希望我们都能同意，推进AGI安全是我们需要共同努力寻找共性的最重要领域之一。
未来十年内人类将拥有非常强大的AI系统，这将改变世界。但是，这也意味着必须准备好面对潜在风险。如何确保这些系统既高效又安全，是一个复杂而紧迫的问题。此外，他也提到，在某个时候，他们会尝试做GPT-5模型，但不会是在很快的时候。
Altman认为，与生物神经元相比，在机器上观察发生的事情更容易得多，因此他认为这种方法对于人工神经网络是有效的。但他不确定该方法是否可以应用于人类的大脑。在回答控制模型数量的问题时，他提出，我们应该有一个框架，让任何一个创造出足够强大的模型的人都经过充分的测试，以确保他们创造出的东西既安全又符合目标。
最后，由于时间有限，本次会议不得不停止。不过张宏江表示期待下一次有机会邀请Sam Altman来中国进行更深入的讨论。
